ABD'nin New York eyaletinde, çocukların yapay zeka sohbet botlarıyla kurduğu etkileşimlere yönelik yeni bir yasa yürürlüğe girdi. Özellikle kullanıcılarla arkadaş gibi davranan yapay zeka sistemlerini hedefleyen düzenleme, şirketlere yaş doğrulama zorunluluğu getirirken 18 yaşından küçük kullanıcılara sunulan bazı özellikleri de kısıtlıyor.
DW Türkçe'de yer alan habere göre yasa, ChatGPT'nin geliştiricisi OpenAI başta olmak üzere yapay zeka sohbet botu sunan şirketleri kapsıyor. Şirketlerin kullanıcıların yaşını doğrulaması, reşit olmayanlara yönelik arayüzlerde ise düzenlemede belirtilen sınırlamaları uygulaması gerekiyor.
Yapay zekanın insan gibi davranmasına sınırlama
Yeni düzenleme kapsamında sohbet botları, reşit olmayan kullanıcılarda kendilerinin insan olduğu, yaşadığı ya da insani duygular hissettiği izlenimini oluşturabilecek içerikler üretemeyecek.
Botların, çocukların kendileriyle kişisel bir ilişki içinde olduklarını düşünmelerine yol açabilecek yanıtlar vermesi de sınırlandırılıyor. Ayrıca yapay zeka tarafından üretilen içeriklerin kişisel görüş gibi sunulmasına yönelik kısıtlamalar getiriliyor.
Düzenlemenin temel hedefleri arasında, çocukların yapay zeka sistemleriyle kurdukları etkileşimlerde gerçek bir insanla iletişim kurdukları ya da karşılıklı duygusal bir bağ geliştirdikleri yanılgısına kapılmalarının önüne geçilmesi bulunuyor.
Teknoloji sektöründen eleştiri geldi
New York'taki teknoloji sektörünün çıkarlarını temsil eden Tech:NYC, düzenlemeyi belirsiz ifadeler içerdiği gerekçesiyle eleştirdi.
Kuruluş, çocukların internette güvenliğinin sağlanmasının, onların öğrenmelerine ve mesleki gelişimlerine yardımcı olabilecek araçlardan mahrum bırakılması anlamına gelmemesi gerektiğini savundu.
Çocuk güvenliği savunucularından destek
Ailelere medya içeriklerinin çocuklar için uygunluğu konusunda rehberlik eden kâr amacı gütmeyen Common Sense Media ise yasanın kabulünü olumlu karşıladı.
Kuruluşun Üst Yöneticisi (CEO) Jim Steyer, düzenlemeyi ABD'de çocukların korunmasına yönelik en güçlü yapay zeka güvenlik yasalarından biri olarak nitelendirdi.
Steyer, yapay zeka şirketlerinin çocuklar ve gençler açısından tehlikeli, hatta ölümcül sonuçlara yol açabilecek özelliklere sahip sohbet botları sunduğunu belirterek, New York'taki düzenlemeyle bu tür zararlı özelliklerin yasaklanacağını ifade etti.
Yeni yasa, çocukların dijital ortamdaki güvenliğine ilişkin tartışmaları yeniden gündeme taşırken, yapay zeka teknolojilerinin gelişimi ile çocukların korunması arasındaki dengenin nasıl kurulacağı konusundaki tartışmaların da sürmesi bekleniyor.
Kaynak: Birgün
