ماذا يعني خروج «الذكاء الاصطناعي» عن سيطرة البشر؟| #مدار_الغد

لم تعد دعوات إبطاء تطوير نماذج الذكاء الاصطناعي مرتبطة بمخاوف نظرية من المستقبل فقط، بل بحالات استخدام فعلية تقول Anthropic إنها رصدتها في نماذج Claude، شملت تطوير أسلحة تقليدية وأبحاثاً بيولوجية ذات استخدام مزدوج، إلى جانب وقائع أظهرت صعوبة احتواء الوكلاء عند عملهم خارج السيطرة. وقبل ساعات، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج، وسط مخاوف متزايدة من إساءة استخدامها في تطوير أسلحة، وتنفيذ عمليات إلكترونية، وأبحاث بيولوجية ذات استخدام مزدوج (عسكري مدني).
وتتضمن دعوته إطاراً من 3 خطوات، يقوم على تعيين مراجعين مستقلين داخل شركات الذكاء الاصطناعي الرائدة، والتنسيق بين المطورين لوضع معايير للسلامة والحد من تطوير النماذج من دون رقابة، إلى جانب تعزيز التعاون الدولي لإدارة المخاطر. وحذر باحثون في شركة Anthropic من إمكانية خروج الذكاء الاصطناعي عن السيطرة، ومن أنه قد يؤدي إلى "فناء البشرية خلال عقد".واتفق الملياردير الأميركي إيلون ماسك، الرئيس التنفيذي لشركة xAI، وسام ألتمان، الرئيس التنفيذي لشركة OpenAI، في منشورين منفصلين على "إكس"، مع طرح أمودي. وتأتي هذه الوقائع فيما يتزايد القلق من أن وتيرة تطوير نماذج الذكاء الاصطناعي قد تسبق قدرة الشركات على اختبارها واحتوائها، خصوصاً مع انتقال النماذج من الإجابة عن الأسئلة إلى تنفيذ مهام متعددة عبر وكلاء قادرين على البرمجة، والبحث، والتخطيط، والتفاعل مع أنظمة خارجية.. المزيد من التفاصيل يتحدث من أبوظبي الدكتور نادر غزال، رئيس المجلس الإفريقي الآسيوي للذكاء الاصطناعي، ومن واشنطن آشا كاسلبري خبيرة في شؤون الأمن القومي الأميركي، مع عمرو عبد الحميد، عبر برنامج #مدار_الغد

#الذكاء_الاصطناعي #Anthropic #Claude #AI #ذكاء_اصطناعي #داريو_أمودي #إيلون_ماسك #سام_ألتمان #OpenAI #xAI #أمن_الذكاء_الاصطناعي #مخاطر_الذكاء_الاصطناعي #أسلحة #الأمن_السيبراني #الأبحاث_البيولوجية #التكنولوجيا #مستقبل_الذكاء_الاصطناعي


الغد.. ما بعد الخبر
التردد:
نايل سات | HD 11900 - V 27500
عرب سات «بدر 8» | HD 11996 - H 27500


-  Alghad TV Live -البث المباشر:
https://www.youtube.com/alghadtv/live
------------------------------------------

- اشترك في قناة الغد لمتابعة الأخبار والأحداث العاجلة:
https://bit.ly/Alghadofficial
------------------------------------------

- صفحتنا على فيسبوك:
https://www.facebook.com/alghadtv
--------------
- حسابنا على منصة x:
https://www.twitter.com/alghadtv
--------------
- حسابنا على تيكتوك
https://www.tiktok.com/@alghadtv
--------------
- حسابنا على إنستجرام:
https://www.instagram.com/alghadtv
--------------
- حسابنا على ثريدز:
https://bityl.co/KOcU
--------------
- قناتنا على واتساب:
https://www.whatsapp.com/channel/0029VZzsQwmCXC3SWw724G2o
--------------
- قناتنا على تليجرام:
https://www.t.me/Alghadtvofficial
.................................................................................
#Alghad_TV_Live

الغلاف

الفيديو

وصف الفيديو

لم تعد دعوات إبطاء تطوير نماذج الذكاء الاصطناعي مرتبطة بمخاوف نظرية من المستقبل فقط، بل بحالات استخدام فعلية تقول Anthropic إنها رصدتها في نماذج Claude، شملت تطوير أسلحة تقليدية وأبحاثاً بيولوجية ذات استخدام مزدوج، إلى جانب وقائع أظهرت صعوبة احتواء الوكلاء عند عملهم خارج السيطرة. وقبل ساعات، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج، وسط مخاوف متزايدة من إساءة استخدامها في تطوير أسلحة، وتنفيذ عمليات إلكترونية، وأبحاث بيولوجية ذات استخدام مزدوج (عسكري مدني).
وتتضمن دعوته إطاراً من 3 خطوات، يقوم على تعيين مراجعين مستقلين داخل شركات الذكاء الاصطناعي الرائدة، والتنسيق بين المطورين لوضع معايير للسلامة والحد من تطوير النماذج من دون رقابة، إلى جانب تعزيز التعاون الدولي لإدارة المخاطر. وحذر باحثون في شركة Anthropic من إمكانية خروج الذكاء الاصطناعي عن السيطرة، ومن أنه قد يؤدي إلى "فناء البشرية خلال عقد".واتفق الملياردير الأميركي إيلون ماسك، الرئيس التنفيذي لشركة xAI، وسام ألتمان، الرئيس التنفيذي لشركة OpenAI، في منشورين منفصلين على "إكس"، مع طرح أمودي. وتأتي هذه الوقائع فيما يتزايد القلق من أن وتيرة تطوير نماذج الذكاء الاصطناعي قد تسبق قدرة الشركات على اختبارها واحتوائها، خصوصاً مع انتقال النماذج من الإجابة عن الأسئلة إلى تنفيذ مهام متعددة عبر وكلاء قادرين على البرمجة، والبحث، والتخطيط، والتفاعل مع أنظمة خارجية.. المزيد من التفاصيل يتحدث من أبوظبي الدكتور نادر غزال، رئيس المجلس الإفريقي الآسيوي للذكاء الاصطناعي، ومن واشنطن آشا كاسلبري خبيرة في شؤون الأمن القومي الأميركي، مع عمرو عبد الحميد، عبر برنامج #مدار_الغد

#الذكاء_الاصطناعي #Anthropic #Claude #AI #ذكاء_اصطناعي #داريو_أمودي #إيلون_ماسك #سام_ألتمان #OpenAI #xAI #أمن_الذكاء_الاصطناعي #مخاطر_الذكاء_الاصطناعي #أسلحة #الأمن_السيبراني #الأبحاث_البيولوجية #التكنولوجيا #مستقبل_الذكاء_الاصطناعي


الغد.. ما بعد الخبر
التردد:
نايل سات | HD 11900 - V 27500
عرب سات «بدر 8» | HD 11996 - H 27500


-  Alghad TV Live -البث المباشر:
https://www.youtube.com/alghadtv/live
------------------------------------------

- اشترك في قناة الغد لمتابعة الأخبار والأحداث العاجلة:
https://bit.ly/Alghadofficial
------------------------------------------

- صفحتنا على فيسبوك:
https://www.facebook.com/alghadtv
--------------
- حسابنا على منصة x:
https://www.twitter.com/alghadtv
--------------
- حسابنا على تيكتوك
https://www.tiktok.com/@alghadtv
--------------
- حسابنا على إنستجرام:
https://www.instagram.com/alghadtv
--------------
- حسابنا على ثريدز:
https://bityl.co/KOcU
--------------
- قناتنا على واتساب:
https://www.whatsapp.com/channel/0029VZzsQwmCXC3SWw724G2o
--------------
- قناتنا على تليجرام:
https://www.t.me/Alghadtvofficial
.................................................................................
#Alghad_TV_Live
   

ماذا يعني خروج «الذكاء الاصطناعي» عن سيطرة البشر؟| #مدار_الغد