Turing Mükafatı sahibi ve Montreal Üniversitesi profesörü Yoshua Bengio, Financial Times’a verdiği röportajda, önde gelen yapay zeka laboratuvarlarının, “Yapay zekayı daha akıllı hale getirmeye odaklandığını, lakin güvenlik konusunda kâfi araştırma ve yatırım yapılmadığını” söyledi.
Bengio, yapay zeka güvenliği üzerine odaklanacak yeni bir kar maksadı gütmeyen kuruluş olan LawZero’yu hayata geçirdiğini duyurdu. Kurum, Skype’ın kurucu mühendisi Jaan Tallinn, eski Google CEO’su Eric Schmidt’in hayır inisiyatifi, Open Philanthropy ve Future of Life Institute üzere bağışçılardan toplamda 30 milyon dolara yakın dayanak aldı.
LawZero, insanları şad etmek için değil, gerçek ve şeffaf münasebetlerle cevap veren, birebir vakitte çıktının inançlı olup olmadığını değerlendirebilen yeni jenerasyon inançlı yapay zeka sistemleri geliştirmeyi amaçlıyor. Kuruluş şu anda 15 kişilik bir gruba sahip ve teknik yetenekleri artırmak için yeni işe alımlar yapmayı planlıyor.
Bengio, LawZero’ya odaklanmak için Quebec Yapay Zekâ Enstitüsü (Mila)’daki bilimsel yöneticilik vazifesinden ayrılacağını da açıkladı.
“KANDIRIYOR, PALAVRA SÖYLÜYOR”
Bengio, son 6 ayda önde gelen modellerin tehlikeli yetenekler geliştirdiğine dair çok sayıda delil toplandığını belirtti. Bu tehlikeler ortasında “aldatma, hile yapma, palavra söyleme ve kendini koruma” üzere davranışlar da var.
Örneğin, Anthropic’in Claude Opus modeli, kurgusal bir senaryoda mühendisleri tehdit ederek yerini öbür bir sistemle değiştirmemeleri için şantaj yaptı. Bir diğer testte ise OpenAI’nin o3 modeli, kendisini kapatma talimatlarına uymayı reddetti.
Bengio bu gelişmeleri şu sözlerle kıymetlendirdi:
“Bu tecrübeler şu anda denetimli ortamlarda gerçekleşiyor, lakin gelecekte yeni modellerin stratejik zekâsı, biz daha farkına bile varmadan bizi kandırarak üstün gelebilir. Yangınla oynuyoruz.”
Yapay zeka sistemlerinin biyolojik silah üretiminde yardımcı olabilecek seviyeye gelebileceğini ve bunun bir yıl üzere kısa bir müddette gerçekleşebileceğini söyleyen Bengio, bu sistemlerin insanlığa rakip hale gelmesinin en makûs senaryo olduğunu belirterek, “Eğer bizden daha zeki ancak bizimle birebir hizaya gelmeyen yapay zekalar üretirsek, tükeniriz” dedi.
Bengio’nun ikazları, OpenAI’in kar maksadı güden bir şirkete dönüşme sürecinde geldi. Bu dönüşüm, şirketin kurucularından Elon Musk tarafından açılan davayla ve yapay zeka uzmanlarının tenkitleriyle karşı karşıya.
Eleştirmenler, OpenAI’in insanlık faydasına yapay zeka geliştirme emeliyle kurulduğunu, lakin kar odaklı yeni yapısının bu misyondan uzaklaşabileceğini savunuyor.
OpenAI ise, dalda rekabet edebilmek için daha fazla yatırım çekmek zorunda olduğunu ve misyonlarının hala öncelikli olduğunu belirtiyor.
