Microsoft AI CEO'sundan güvenlik uyarısı

Teknoloji çağında insanların adeta bir parçası haline gelmeye başlayan yapay zekanın güvenlik riskleri tartışılıyor.

Microsoft AI CEO’su Mustafa Süleyman, yapay zeka teknolojilerinin hızlı gelişiminin beraberinde getirdiği risklere dikkati çekerek, sistemlerin insan kontrolünün dışına çıkmasını önlemek için daha kapsamlı güvenlik tedbirlerine ihtiyaç olduğunu söyledi.

Yapay zekanın gelişim hızına ilişkin kamuoyundaki endişelerin ve sektördeki tartışmaların arttığı dönemde BBC’ye değerlendirmelerde bulunan Süleyman, bu konudaki kaygıların göz ardı edilmemesi gerektiğini ifade etti.

Süleyman, yapay zeka temelli sistemlerin geliştirilmesi sırasında ek güvenlik önlemleri, denetim mekanizmaları ve çeşitli kontrollerin devreye alınabileceğini belirterek, söz konusu teknolojilere yaklaşımın da risklerin azaltılması açısından önem taşıdığını vurguladı.

YAPAY ZEKAYA "İNSANMIŞ GİBİ" YAKLAŞILMAMASI UYARISI

Süleyman, yapay zeka sistemlerine "insanmış gibi" yaklaşılmasının çeşitli riskleri artırabileceği uyarısında bulundu.

Bu yaklaşımın, yapay zeka sistemlerinin insanlarla rekabet edebilecek bir yapıya dönüşmesine yol açabileceğini savunan Süleyman, teknolojinin geliştirilmesi sırasında insan denetiminin korunması gerektiğine işaret etti.

ANTHROPIC CEO’SU DA GELİŞİM HIZININ YAVAŞLATILMASINI ÖNERMİŞTİ

Yapay zekanın güvenli şekilde geliştirilmesine ilişkin tartışmalar, sektörün diğer önde gelen isimlerinin açıklamalarıyla da gündeme geldi.

ABD merkezli yapay zeka şirketi Anthropic'in CEO’su Dario Amodei, şirket araştırmacılarından Jacob Coxon'ın yapay zeka alanında yeterince sorumlu davranılmadığı gerekçesiyle istifa etmesinin ardından yayımladığı makalede, teknolojinin hızlı ilerleyişine ilişkin uyarılarda bulundu.

Amodei, yapay zeka sistemlerinin hızla gelişmesinin bu sistemleri anlama ve kontrol etme kapasitesini zorlayabileceğini belirterek, teknolojinin gelişiminin daha fazla denetim imkanı sağlayacak şekilde yavaşlatılmasını önermişti.

Amodei ayrıca yapay zeka şirketlerinin bir araya gelerek ortak güvenlik standartları oluşturması gerektiğini savunmuştu.

MUSK VE ALTMAN'DAN AMODEI'NİN ÇAĞRISINA DESTEK
Amodei'nin önerisine Tesla ve xAI CEO'su Elon Musk destek verirken, OpenAI CEO’su Sam Altman da benzer bir yaklaşımı benimsediğini ve bağımsız değerlendirme konusunda aynı yönde adım atacağını açıklamıştı.

Sektör yöneticilerinin açıklamaları, yapay zeka teknolojilerinin geliştirilme hızının yanı sıra güvenlik, denetim ve insan kontrolünün korunmasına ilişkin tartışmaların da giderek öne çıktığını gösteriyor.