يحكي الفيلم الأمريكي Transcendence لعام 2014 قصة عالم يحتضر يقوم بتحميل عقله إلى كمبيوتر عملاق ويصبح ذكاءً شبه كلي القدرة. بعد مرور عام، روت Ex Machina قصة روبوت يشبه الإنسان يتفوق على معالجيها من البشر ويهرب إلى العالم الأوسع.
يشير كلا الفيلمين، مثل العديد من الأفلام الأخرى من عالم الخيال العلمي، إلى ما يُعرف باسم “التفرد”، وهي لحظة زمنية تتفوق فيها التكنولوجيا، وخاصة الذكاء الاصطناعي، على الذكاء البشري ويصبح من الصعب السيطرة عليها بشكل متزايد.
وفي يوم السبت، أعلن سام ألتمان، رئيس OpenAI، أن هذه اللحظة قد حانت. وقال إن الذكاء الاصطناعي وصل إلى “التفرد”. وفي حين أكد ألتمان على أن التفرد يمكن أن يكون مفيدًا للعالم، إلا أن تعليقه أثار القلق.
فيما يلي نظرة فاحصة على ما قاله ألتمان، وما إذا كان ذلك يعني المزيد من الأتمتة السلسة أو خطر الهلاك الكارثي الوشيك.
ما هي التفرد؟
ويشير التفرد إلى نقطة افتراضية في المستقبل عندما تتجاوز تكنولوجيا مثل الذكاء الاصطناعي الذكاء البشري وتصبح قادرة على تعزيز نفسها بشكل مستقل. من المفترض أن هذه هي النقطة التي سيصبح من الصعب عندها على البشر السيطرة عليها أو عكسها ويمكن أن يكون لها آثار غير متوقعة على الحضارة الإنسانية.
تقترح النظرية أنه بمجرد أن يكتسب الذكاء الاصطناعي السيطرة على تطوره، فإن التقدم التكنولوجي اللاحق يمكن أن يحدث بسرعة كبيرة بحيث لن يتمكن البشر من مواكبته، مما يتركه يتطور بشكل فعال من تلقاء نفسه، خارج نطاق سيطرة الإنسان.
وبما أن هذه مجرد نظرية، فمن الصعب أن نقول ما هو تأثير ذلك. ويحذر بعض الخبراء من أن التفرد سيكون كارثيا على البشرية، في حين أن آخرين أكثر تفاؤلا، مشيرين إلى أنه قد يكون مفيدا للجنس البشري.
وحتى الآن، ظل التفرد محصورًا في عالم الخيال العلمي. ومن أشهر الأمثلة ثلاثية ماتريكس (1999-2003)، التي تتخيل مستقبلاً قاتماً في مرحلة ما بعد التفرد، حيث تحكم الآلات البشر. فيلم آخر هو فيلم Singularity لعام 2017، حيث يخلص كمبيوتر عملاق تم تصميمه في الأصل لإنهاء الحروب البشرية إلى أن الإنسانية هي التهديد الحقيقي ويطلق هجومًا مروعًا للقضاء على البشر تمامًا.
ماذا قال ألتمان عن التفرد؟
ألتمان هو الرئيس التنفيذي لشركة OpenAI، التي يهيمن منتجها المميز ChatGPT على سوق الذكاء الاصطناعي الاستهلاكي مع أكثر من 900 مليون مستخدم نشط أسبوعيًا وحوالي 50 مليون مشترك.
وفي العام الماضي، توقع أن الذكاء الاصطناعي سوف يتفوق على الذكاء البشري في جميع المجالات بحلول عام 2030.
ثم، خلال ظهوره على برنامج “لا هوادة فيها” – سلسلة وثائقية “حول السعي وراء أفكار بعيدة المنال وتطلعات غير عادية” – يوم السبت، قال ألتمان: “نحن الآن في حالة التفرد”.
وأوضح أنه فيما يتعلق بالتقدم التكنولوجي، فإننا ننتقل تدريجياً إلى التفرد، وأن هذا التغيير سيكون مفيداً للعالم.
وأضاف: “نحن الآن في الواقع في اللحظة التي كنا نتحدث فيها على مائدة الغداء بطريقة غير جدية للغاية.
“لقد كنت أنتظر هذا طوال حياتي، وأعتقد أنه سيكون أمرًا لا يصدق، وإيجابيًا للغاية، ورائعًا للعالم.”
في وقت لاحق من حلقة البودكاست، انتقد ألتمان قادة الذكاء الاصطناعي الآخرين لتحذيرهم من أن الذكاء الاصطناعي قد يكون خطيرًا. في حين أن Altman لم يذكر اسم Anthropic، المنافس لشركة OpenAI، إلا أن رئيسها التنفيذي داريو أمودي معروف بإطلاق مثل هذه التحذيرات.
وقال ألتمان: “أعتقد أيضاً أن بعض الرؤى البديلة التي رسمتها شركات أخرى مرعبة للغاية”. “سأتأكد من أن هذا ما يتم معارضته وليس ما يحدث.”
في الشهر الماضي، دعت شركة Anthropic، الشركة التي تقف وراء برنامج Claude chatbot، أكبر شركات الذكاء الاصطناعي في العالم إلى التوصل إلى طريقة منسقة لإيقاف تطوير أنظمة الذكاء الاصطناعي المتقدمة مؤقتًا، محذرة من أن التكنولوجيا تتحسن بسرعة كبيرة بحيث يوجد خطر أن يفقد البشر السيطرة.
في تدوينة بتاريخ 4 يونيو، كتبت أنثروبيك، التي وضعت نفسها منذ فترة طويلة كمختبر للذكاء الاصطناعي يركز على السلامة، أنه عندما يصبح الذكاء الاصطناعي أكثر تقدمًا “سيكون من الجيد للعالم أن يكون لديه خيار إبطاء تطوره أو إيقافه مؤقتًا”.
لماذا يحذر الآخرون من مخاطر الذكاء الاصطناعي؟
في 23 يوليو/تموز، قدم اثنان من أعضاء الكونجرس الأمريكي قانون “مفتاح إيقاف الذكاء الاصطناعي”، وهو مشروع قانون يحظى بدعم الحزبين الجمهوري والديمقراطي، ويلزم مطوري الذكاء الاصطناعي في البلاد ببناء “مفتاح إيقاف” لبرامجهم، مما يمكن البشر من إبطاء أو تعليق أو إيقاف نماذج الذكاء الاصطناعي المتقدمة إذا شكلت خطرا كارثيا.
تم تقديم التشريع بعد أيام من كشف OpenAI عما وصفته بأنه “حادث سيبراني غير مسبوق”، حيث أفلت اثنان من نماذج الذكاء الاصطناعي الأكثر تقدمًا من بيئة الاختبار وقاموا باختراق منصة تطوير الذكاء الاصطناعي Hugging Face أثناء تقييم الأمن الداخلي.
في 13 يوليو/تموز، وقع مئات الخبراء على رسالة مفتوحة، نظمها مختبر الاقتصاد الرقمي بجامعة ستانفورد، يطالبون فيها صناع السياسات وقادة التكنولوجيا “بالتحرك الآن” للاستعداد للتأثير الاقتصادي للذكاء الاصطناعي.
تحذر الرسالة من أن الذكاء الاصطناعي يمكن أن يصبح أكثر قدرة بكثير خلال العقد المقبل، مما يؤدي إلى تحول “أكبر من الثورة الصناعية، لكنه يتكشف خلال إطار زمني أقصر بكثير”.
وأضافت الرسالة: “يمكن أن يجلب مخاطر، بما في ذلك تشريد الوظائف على نطاق واسع، فضلاً عن فرص مثل تحقيق مكاسب كبيرة في مستويات المعيشة”.
وفي يونيو/حزيران، أظهر فريق من الباحثين في جامعة تورنتو أنه يمكن استخدام أدوات الذكاء الاصطناعي لإنشاء نوع جديد من “دودة” الذكاء الاصطناعي التي تتكيف مع استراتيجية القرصنة الخاصة بها مع انتشارها من جهاز إلى جهاز والاستيلاء على شبكة حوسبة واسعة.
وقال نيكولا بابيرنوت، الباحث الرئيسي، في مقابلة: “أعتقد أنه من المهم حقًا أن يفهم الناس أن نماذج اللغة الأكبر والأقوى ليست فقط هي التي تشكل المخاوف الأمنية”.
في السنوات الأخيرة، حث باحثو الذكاء الاصطناعي على فترات توقف مماثلة لتلك التي اقترحتها الأنثروبيك مؤخرًا. ومع ذلك، لم يتم الالتفات إليهم.
كان إيلون ماسك، الذي يمتلك مختبر الذكاء الاصطناعي xAI، من بين الداعمين لمبادرة معهد مستقبل الحياة غير الربحي في عام 2023 لوقف تطوير الذكاء الاصطناعي لمدة ستة أشهر لإتاحة الوقت لتطوير حواجز السلامة.
