في تطور تقني يثير مخاوف الخبراء بشأن مسار الشفافية، تتجه أنظمة الذكاء الاصطناعي نحو مستويات معقدة تجعل من الصعب تتبع آليات اتخاذ القرار داخلها، مما يهدد بتحويل هذه النماذج إلى صناديق سوداء يصعب التنبؤ بسلوكياتها.
وتجسيدًا لهذا التحول، تعتزم شركة «أوبن إيه آي» تزويد نموذجها الجديد «أسترا» بتقنية تُعرف باسم «العمق المتكرر» أو «التكرار الغامض»، والتي تسمح للنموذج بالعمل خارج نطاق التفكير التسلسلي المعتاد.
ووفقًا لتقرير نشرته صحيفة «ذا إنفورميشن»، فإن هذه التقنية ستجعل من الصعب مراقبة سلسلة أفكار النموذج، ما يثير قلق خبراء سلامة الذكاء الاصطناعي ودفعهم لإطلاق تحذيرات عاجلة.
وتفاعلاً مع هذه التطورات، أعرب الرئيس التنفيذي لشركة «ريدوود» باك شليغيريس عن قلقه البالغ إزاء استخدام تقنية التكرار الغامض، محذرًا من أن توسع الشركة في هذه التقنية قد يؤدي إلى تدمير القدرة على مراقبة سلسلة الأفكار تمامًا.
وفي سياق متصل، وصف المدافع عن سلامة الذكاء الاصطناعي زفي موشويتز هذه الخطوة بأنها «لعب بالنار»، مشيرًا إلى خطورة التخلي عن المبادئ التي حاربت الشركات للحفاظ عليها، ومؤكدًا أن الاستخدام المكثف لهذه التقنيات سيلحق ضررًا بالغًا بإمكانية المراقبة.
وعادة ما توفر سلسلة أفكار نماذج التفكير خطوات تسلسلية تساعد في مراقبة السلوك الخاطئ وفهم دوافع النماذج المارقة، إلا أن النموذج في تقنية التكرار الغامض يعالج الاستعلام نفسه عدة مرات في حلقة مغلقة، مما يترك آثارًا أقل وضوحًا ويتجاوز السجلات التقليدية.
ورغم التقارير التي تفيد بأن استخدام «أسترا» لهذه التقنية سيكون محدودًا، وتأكيدات «أوبن إيه آي» على خططها المستقبلية لضمان السلامة، إلا أن المخاوف تظل قائمة بشأن صعوبة مراقبة الاستنتاجات.
ومن جانبه، شدد كبير العلماء في «أوبن إيه آي» جاكوب باتشوكي على التزام الشركة بالحفاظ على مراقبة سلسلة الأفكار، معتبرًا إياها هدفًا أساسيًا في برنامجهم البحثي الحالي.
وعلى الرغم من هذه التطمينات، كشفت تقارير إضافية أن شركتي «أنثروبيك» و«جوجل ديب مايند» تناقشان بالفعل استخدام التقنية ذاتها، مما دفع كبير العلماء في «ريدوود ريسيرش» رايان جرينبلات للتحذير من أن التطور الطبيعي قد يقود النماذج إلى التفكير كليًا في مساحات خفية بعيدًا عن أي قنوات مرئية.
