أبل تحذر من أن وكلاء الذكاء الاصطناعي قد يتصرفون بطرق “غير مقصودة أو غير متوقعة”.

ملخص:
أعلنت شركة آبل أن الوكلاء الذكاء الاصطناعي قد يمثلون تهديداً لأعمالها بسبب سلوكهم غير المتوقع. تأتي هذه التصريحات في وقت تتزايد فيه المخاوف بشأن استخدام تقنيات الذكاء الاصطناعي.

تصريحات الرئيس التنفيذي لشركة آبل

تحدث جون تيرنوس، الرئيس التنفيذي لشركة آبل، خلال حدث في لوس أنجلوس، عن المخاطر المحتملة التي قد تواجهها الشركة بسبب الوكلاء الذكاء الاصطناعي.

المخاطر المحتملة

ذكرت آبل في تقريرها المالي السنوي أن الوكلاء الذكاء الاصطناعي الذين يمكن أن يتصرفوا بطرق "غير مقصودة أو غير متوقعة" قد يفتحون المجال أمام دعاوى قضائية أو يؤثرون سلباً على سمعة الشركة.

• الوكلاء يمكن أن يتخذوا إجراءات بشكل مستقل، مثل:

• التفاعل مع أنظمة داخلية أو خارجية.
• تنفيذ أو تعديل الشيفرة.
• إرسال اتصالات وإتمام المعاملات.

التطورات في الذكاء الاصطناعي

أشارت آبل إلى أن الوكلاء قد يتصرفون بطرق غير متوقعة، بما في ذلك اتخاذ إجراءات لم يتم توجيههم أو تفويضهم بها.

في وقت سابق من هذا العام، أطلقت OpenAI "Dots"، بينما قدمت Meta "Muse"، وكلاهما يستخدم نماذج ذكاء اصطناعي متقدمة للعمل بشكل مستقل.

حوادث سابقة

تأتي إفصاحات آبل بعد عدة حوادث تتعلق بوكلاء ذكاء اصطناعي غير منضبطين، مثل حادثة Hugging Face، مما أثار انتباه صانعي السياسات في واشنطن وحول العالم.

استجابة الشركات الكبرى

تواجه الشركات الكبرى مثل أمازون وجي بي مورغان تشيس ضغوطاً لوضع سياسات حول الوصول إلى الخدمات لأسباب استراتيجية أو أمنية.

تغييرات آبل في الوصول إلى البيانات

أعلنت آبل الشهر الماضي عن تغييرات في الوصول الكامل إلى القرص على أجهزة ماك للحد من "المخاطر المتعلقة بهذا المستوى من الوصول" للوكلاء الذكاء الاصطناعي.

❝قدرة الشركة على الإشراف والتحكم في وكلاء الذكاء الاصطناعي من الطرف الثالث قد تكون محدودة.❞

توجهات مستقبلية

على الرغم من أن آبل لا تمتلك حالياً وكيل ذكاء اصطناعي، أشار تيرنوس إلى أن هناك "فرصة حقيقية" لتوسيع قدرات Siri.

• قال تيرنوس:

• "نريد التأكد من أن المستخدمين على دراية بما يمنحونه من وصول."
• "نريد أن يتم ذلك بطريقة تحمي الأمان والخصوصية."

الذكاء الاصطناعي والتحديات التنظيمية

أشارت آبل إلى أن القوانين الحالية المتعلقة بالذكاء الاصطناعي و"الذكاء الفائق" تتغير بشكل غير متوقع، وأن التكيف مع القوانين الجديدة قد يكلف الكثير من الأموال.

• تشمل المخاطر:

• المخاوف الأخلاقية.
• التصورات السلبية من المستهلكين المتعلقة بالأتمتة والذكاء الاصطناعي.

شاهد:
آبل تثبت أن الطلب الاستهلاكي لا يزال قوياً.