مسؤول بـ مايكروسوفت: أداة ذكاء اصطناعي تقدم نتائج خطيرة والشركة ترفض إيقافها
حذر مهندس يعمل على تطوير تقنيات الذكاء الاصطناعي لدى “مايكروسوفت”، من أن أداة تصميم الصور “كوبيلوت ديزينر” التابعة للشركة، تولد نتائج خطيرة ومقلقة.
وساعد “شين جونز” في تطوير الأداة القائمة على الذكاء الاصطناعي، والتي أطلقتها “مايكروسوفت” في مارس 2023، والمدعومة بتقنيات شركة “أوبن إيه آي” المطورة لتطبيق “شات جي بي تي”.
وقال “جونز” الذي يشغل منصب مدير هندسة البرمجة لفرع الشركة في ريدموند، في تصريحات لشبكة “سي إن بي سي” الأربعاء، إنه أثناء بحثه عن نقاط الضعف في البرنامج، اكتشف أنه يصمم صورًا تتعارض بشدة مع المبادئ المسؤولة التي تتبناها “مايكروسوفت”.
وأوضح أن الأداة أنتجت في النهاية صورًا تجسد الشياطين والوحوش إلى جانب العبارات المتعلقة بالحقوق والحريات، كما صورت مراهقين يحملون الأسلحة، وأظهرت مشاهد عنف ضد النساء وأطفال يتعاطون المخدرات.
اعترفت “مايكروسوفت” بالمخاوف، لكنها رفضت سحب الأداة، وطالبت المهندس بحذف منشوراته على منصات التواصل الاجتماعي عن عيوب البرنامج، وذلك قبل أن يوجه خطابًا إلى لجنة التجارة الفيدرالية وآخر إلى مجلس إدارة الشركة، بحسب “جونز”.
