California Valisi Gavin Newsom, sınır yapay zekâ modellerinin bağımsız denetimi ve acil durumlarda kapatılabilmesi üzerine öneriler hazırlamak üzere dört uzmandan oluşan bir ekip açıkladı. 23 Eylül'de görevlendirilen ekipte Jason Goldman, Gillian Hadfield, Alondra Nelson ve Rob Reich yer alıyor.
Çalışma; büyük yapay zekâ laboratuvarlarında bağımsız doğrulama kuruluşlarının yerinde görev yapması, şirketlerin güvenlik çerçeveleri ile risk değerlendirmelerinin dışarıdan doğrulanması ve sınır modeller için işlevi düzenli test edilen bir acil kapatma mekanizması geliştirilmesi seçeneklerini inceleyecek. Bunlar henüz yürürlükte birer yükümlülük değil; uzmanların değerlendireceği olası düzenleme başlıkları.
Süreç, Newsom'un 18 Eylül tarihli yürütme emrine ve daha önce imzalanan iki yasaya dayanıyor. SB 813, yapay zekâ sistemlerini inceleyen bağımsız doğrulama kuruluşları için çerçeve kuruyor. AB 1405 ise yapay zekâ denetçileri için eyalet sicili ile bağımsızlık, şeffaflık ve dürüstlük standartları öngörüyor.
Yürütme emri, SB 813 ile AB 1405'in uygulama takvimini hızlandırma ve kritik güvenlik olayı tanımını kontrol kaybı vakalarını içerecek biçimde gözden geçirme talimatı veriyor. Takvim ve nihai kural değişiklikleri, uzman önerileri ile sonraki idari veya yasama adımlarında netleşecek.
Uzmanların atanması herhangi bir yapay zekâ modelinin güvensiz bulunduğu, kapatma mekanizmasının geliştirildiği ya da bağımsız denetimlerin başladığı anlamına gelmiyor. Bu sonuçlar ancak öneriler yayımlandıktan ve uygulama kayıtları ortaya çıktıktan sonra değerlendirilebilecek.