"Halüsinasyon" Chatbot

Alibaba'nın yeni dil yazılımı ve Çin'in YZ düzenlemeleri

Çinli internet devi Alibaba kısa süre önce, belge ve e-posta yazmak için yapay zekayı (AI) kullanan yeni dil yazılımı "Tongyi Qianwen"in piyasaya sürüldüğünü duyurdu. Ancak raporlar, yazılımın zaten "halüsinasyon" yanıtları verdiğini gösteriyor, bu da kendinden emin bir şekilde yanlış yanıtlar verdiği anlamına geliyor.

Halüsinasyon (Tongyi Qianwen)

Bu raporlar, Çin hükümetinin AI hizmetleri için yeni düzenlemeler hazırladığı bir zamanda geldi. Çin Siber Uzay İdaresi, içeriğin "sosyalizmin temel değerlerini" yansıtması ve ekonomik ve sosyal düzeni bozacak hiçbir bilginin yayılmaması şartını içeren yeni düzenleme taslağını yayınladı. Geliştiriciler ayrıca cinsiyet veya yaşa dayalı ayrımcılığı önlemek için özen göstermelidir.

Yönetmelikler, henüz geliştirmenin erken aşamalarında olan ve oldukça hataya açık olabilecek yapay zeka dil modellerinin doğruluğu ve güvenilirliğiyle ilgili endişeleri gidermeyi amaçlıyor. Google'ın sohbet robotu "Bard", James Webb teleskobu hakkında ilk kez ortaya çıktığında yanlış yanıt vererek utanç verici bir hata yaptı.

Alibaba'nın yeni yazılımı başlangıçta iş hayatına yönelik ve belge yazma ve e-posta oluşturma gibi görevleri kolaylaştırma potansiyeline sahip. Bununla birlikte, yeni düzenlemelerin uygulanmasıyla birlikte geliştiricilerin, sohbet robotlarının hükümet gereklilikleriyle uyumlu olmasını sağlamaları gerekecek, bu da yenilik ve uyum arasındaki ödünleşimde ek bir engel teşkil edebilir.

Taslak düzenlemelerle ilgili geri bildirim için son tarih yaklaşırken, Alibaba gibi şirketlerin sohbet robotlarıyla ilgili sorunları çözmeleri ve yeni düzenlemelere uymalarını sağlamaları gerekecek. Yapay zeka teknolojisinin gelişmesi hızlanırken, dünyanın dört bir yanındaki hükümetlerin "Tongyi Qianwen" gibi sohbet robotlarının hem doğru hem de uyumlu olmasını sağlamak için inovasyon ile düzenlemeyi dengelemesi gerekecek.