طبقة الثقة في الذكاء الاصطناعي: طريق الابتكار لشبكة ميرا

مؤخراً، تم إطلاق نسخة تجريبية عامة على الإنترنت تحمل اسم Mira، وتهدف إلى بناء أساس موثوق للذكاء الاصطناعي. أثار ظهور هذا المشروع تفكيرنا العميق حول موثوقية الذكاء الاصطناعي: لماذا يحتاج الذكاء الاصطناعي إلى الثقة؟ وكيف تحل Mira هذه المشكلة؟

عند مناقشة الذكاء الاصطناعي، غالبًا ما يركز الناس على قدراته القوية. ومع ذلك، فإن مشكلة "الأوهام" أو الانحيازات التي توجد في الذكاء الاصطناعي تُهمل غالبًا. الأوهام المعنية بالذكاء الاصطناعي، باختصار، تعني أن الذكاء الاصطناعي أحيانًا يخترع محتوى يبدو معقولاً ولكنه في الواقع غير صحيح. على سبيل المثال، عندما يُسأل عن سبب كون القمر ورديًا، قد يقدم الذكاء الاصطناعي سلسلة من التفسيرات التي تبدو معقولة لكنها بالكامل مختلقة.

ترتبط هذه الظاهرة ارتباطًا وثيقًا بمسار تكنولوجيا الذكاء الاصطناعي الحالي. تحقق الذكاء الاصطناعي التوليدي التماسك والاتساق من خلال توقع "الأكثر احتمالًا" من المحتوى، لكن هذه الطريقة صعبة التحقق من صحتها. بالإضافة إلى ذلك، قد تحتوي بيانات التدريب نفسها على أخطاء، وانحيازات، وحتى محتوى مختلق، وكلها تؤثر على جودة مخرجات الذكاء الاصطناعي. بعبارة أخرى، يتعلم الذكاء الاصطناعي أنماط اللغة البشرية، وليس الحقائق المجردة.

إن آلية توليد الاحتمالات الحالية ونموذج البيانات المدفوعة تؤدي تقريبًا بشكل لا مفر منه إلى ظهور "هلوسات" من قبل الذكاء الاصطناعي. بالنسبة للمحتوى المعرفي أو الترفيهي العادي، قد لا تسبب هذه الحالة عواقب خطيرة بشكل مؤقت. ولكن في مجالات تتطلب دقة عالية مثل الطب والقانون والطيران والمالية، يمكن أن تؤدي أخطاء الذكاء الاصطناعي إلى مشاكل كبيرة. لذلك، أصبح معالجة هلوسات الذكاء الاصطناعي وتحيزاته واحدة من التحديات الأساسية في عملية تطوير الذكاء الاصطناعي.

مشروع ميرا وُلِد لحل هذه المشكلة. يحاول تقليل تحيزات وأوهام الذكاء الاصطناعي وزيادة موثوقيته من خلال بناء طبقة من الثقة للذكاء الاصطناعي. الطريقة الأساسية لميرا هي استخدام توافق عدة نماذج من الذكاء الاصطناعي للتحقق من مخرجات الذكاء الاصطناعي، والتحقق من خلال آلية توافق لا مركزية.

في بنية ميرا، يتم تحويل المحتوى أولاً إلى تصريحات يمكن التحقق منها بشكل مستقل. يتم التحقق من هذه التصريحات بواسطة مشغلي العقد في الشبكة، من خلال حوافز اقتصادية مشفرة وآليات عقاب لضمان نزاهة عملية التحقق. تشارك نماذج الذكاء الاصطناعي المتعددة ومشغلي العقد الموزعين معًا لضمان موثوقية نتائج التحقق.

تتضمن عملية تشغيل شبكة ميرا تحويل المحتوى، والتحقق الموزع، وآلية الإجماع. يتم تقسيم المحتوى المقدم من العملاء إلى تصريحات قابلة للتحقق مختلفة، وتُوزع هذه التصريحات عشوائيًا على العقد المختلفة للتحقق، ثم يتم تجميع النتائج للتوصل إلى إجماع. لحماية خصوصية العملاء، يتم توزيع المحتوى بطريقة تقسيم عشوائي لمنع تسرب المعلومات.

يشارك مشغلو العقد في تشغيل الشبكة من خلال تشغيل نموذج التحقق ومعالجة التصريحات وتقديم نتائج التحقق، ويكسبون من ذلك. تأتي هذه الأرباح من القيمة التي تم إنشاؤها للعملاء، خاصة فيما يتعلق بتقليل معدل أخطاء الذكاء الاصطناعي. لمنع مشغلي العقد من استغلال النظام، سيواجه العقد الذي ينحرف باستمرار عن الإجماع خطر خصم رموز المراهنة.

بشكل عام ، توفر Mira فكرة جديدة لتحقيق موثوقية الذكاء الاصطناعي: بناء شبكة تحقق توافق لامركزية على أساس نماذج الذكاء الاصطناعي المتعددة ، لتقديم خدمات ذكاء اصطناعي أكثر موثوقية للعملاء ، وتقليل التحيز والهلوسة في الذكاء الاصطناعي ، وتلبية احتياجات الدقة العالية ومعدل الدقة. هذا لا يخلق قيمة للعملاء فحسب ، بل يحقق أيضًا عوائد لمشاركي الشبكة ، مما يعزز التطور العميق لتطبيقات الذكاء الاصطناعي.

حاليًا، يمكن للمستخدمين المشاركة في شبكة Mira العامة الاختبارية من خلال تطبيق Klok. Klok هو تطبيق دردشة LLM قائم على Mira، حيث يمكن للمستخدمين تجربة مخرجات AI المصدقة، ولديهم الفرصة لكسب نقاط Mira. على الرغم من أن الاستخدامات المحددة لهذه النقاط لم تُعلن بعد، إلا أن هذا بلا شك يفتح طريقًا جديدًا لاستكشاف موثوقية AI.