California Valisi Gavin Newsom, çocukların sohbet robotları ve sosyal medya platformlarını kullanırken karşılaşabileceği risklere yönelik yeni kurallar içeren iki partili yasa paketini 10 Eylül’de imzaladı.
Paket içindeki SB 1119, çocuklara sunulan yapay zekâ destekli eşlikçi sohbet robotlarında intihar düşüncesi gibi kriz durumları için müdahale protokolleri, ebeveyn kontrolleri ve güvenlik ayarlarının kapatılması halinde bildirim öngörüyor. Düzenleme ayrıca şirketlerin bağımsız çocuk güvenliği denetimleri ile yıllık risk değerlendirmeleri yaptırmasını gerektiriyor.
AB 1709, sosyal medya platformlarının otomatik oynatma ve kullanıcının geçmişi ya da profiline göre çalışan algoritmik akışlar gibi bağımlılık oluşturabileceği belirtilen özellikleri 16 yaşından küçük kullanıcılara sunmasını yasaklıyor. Diğer düzenlemeler hedefli reklam, öğrenci verilerinin yapay zekâ sistemlerinde kullanımı ve dijital olarak değiştirilmiş veya yapay zekâyla üretilmiş çocuk istismarı materyallerini kapsıyor.
Yasaların imzalanması yasama işlemini tamamlayan hukuki adımdır; platformların uygulamaları değiştirdiği veya çocuklara yönelik zararların azaldığı henüz doğrulanmış değildir. Sonuçlar, uygulama takvimi, şirketlerin uyum kayıtları ve bağımsız denetimler ortaya çıktıkça değerlendirilebilecek.