Nadella: Yapay zeka modellerine acil fren konmalı

Microsoft CEO'su Satya Nadella, cumartesi günü X'te yayımladığı uzun bir yazıda yapay zeka sistemlerinin güvenliği için yeni bir yaklaşım önerdi. Nadella, yapay zekanın güven yapısının yeniden gözden geçirilmesi gerektiğini söyledi.

Kara kutu yaklaşımına itiraz

Nadella'ya göre çok gelişmiş yapay zekayı iç içe geçmiş kara kutular gibi görüp önerilerini, yanıtlarını ve eylemlerini sadece kabul ya da reddetmekle yetinemeyiz. Yazıda, Trump yönetiminin tercih ettiği "Super Intelligence" terimi kullanıldı. The Verge, Nadella'nın yazı boyunca yapay zekayı bu adla andığını not etti.

Önerilen önlemler

Nadella, modelin ona iş yaptıran yapıdan ayrılmasını ve denetimlerle güvenlik önlemlerinin modelin dışına taşınmasını istedi. Modelin attığı her önemli adımın, kurcalanamayan ve insanların okuyabileceği kayıtlarla belgelenmesini de önerdi.

Yetkili bir kişinin, model bir işin ortasındayken bile onu durdurabilmesi ya da kapatabilmesi gerektiğini belirtti. Gelişmiş modeller için daha gelişmiş sınırlama teknolojilerinin gerekeceğini ve bunlarda ortak standart oluşturulması gerektiğini ekledi.

Nadella: "Bir modelin ele geçirilmiş olduğunu varsaymalı ve onu baştan kontrol altına almalıyız."

Sektörün diğer önerileriyle ilişkisi

The Verge'e göre Nadella'nın önerilerinin çoğu sektördeki diğer isimlerin söylediklerine benziyor: olayların zamanında açıklanması, bağımsız denetimler, doğrulanabilir veri ve sınırlama. Nadella özellikle sınırlama konusunda bazı isimlerden biraz daha ileri gidiyor.

TechCrunch'a göre bu çıkış, önde gelen yapay zeka şirketlerinin modellerinin denetimini yitirdiği izlenimi veren olayları giderek daha çok kabul ettiği bir döneme denk geldi. Anthropic CEO'su Dario Amodei de bundan önce daha temkinli bir yapay zeka geliştirme planı yayımlamıştı.

Neden önemli

Dünyanın büyük teknoloji şirketlerinden birinin başındaki isim, yapay zeka modellerinin baştan kontrol altında tutulması gerektiğini açıkça savundu. Önerilerin arasında insanın modeli her an durdurabilmesi ve modelin eylemlerinin okunabilir kayıtlarla belgelenmesi var. Nadella ayrıca sınırlama teknolojilerinde ortak standart çağrısı yaptı.