Anthropic’ten istifa eden uzman: Hayatımızla kumar oynanıyor

ABD merkezli yapay zeka şirketi Anthropic’te çalışan bir araştırmacı, bu alanda önde gelen şirketlerin sorumsuz davranarak “insanların hayatlarıyla oynadıkları” uyarısında bulunarak istifasını açıkladı.

27 yaşındaki İngiliz araştırmacı Jacob Coxon, X hesabından yaptığı paylaşımda yapay zekanın çok yakında “insan yeteneklerini aşacağını”, bu teknolojinin “gerçek anlamda güç ve kaynak elde etme kapasitesine sahip olacağını” söyledi.

Coxon, “Yapay zeka geliştiren insanlar, teknolojinin bu 10 yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor” dedi.

En agresif senaryoda işlerin “gelecek yıl sonu” gibi erken bir tarihte “kontrolden çıkabileceğini” savunan Coxon, yapay zekanın kendi başına geliştiğini ve kontrol edilmesinin zorlaştığını belirtti.

Anthropic’ten önce rakip şirket OpenAI için çalışan Coxon, “Her iki şirket de sorumlu davranmıyor” dedi.

ABD merkezli OpenAI, sektörün en popüler ürünü ChatGPT’nin geliştiricisi.

Şirketler tehlikenin farkında

Anthropic’in yapay zeka güvenliğinden sorumlu araştırmacılarından Evan Hubinger de Coxon’un uyarılarına katıldığını açıkladı. Hubinger, X üzerinden yaptığı açıklamada, gelecek 10 yıl içinde yapay zekanın insanlığın yok olmasına yol açma ihtimalinin “yüzde 10’dan fazla” olduğunu belirtti.

Hubinger’e göre şirketler “risklerin ne kadar büyük olduğunu çok iyi anlıyor”, ancak “başkaları sorumlu davranmayacak” diye düşünerek teknoloji yarışında geri kalmamaya çalışıyorlar.

Anthropic’in en büyük rakibi OpenAI’dan araştırmacı Jakub Pachocki de daha önce “aşırı dikkatli olunması” çağrısında bulunmuş, yapay zekanın hızlı ilerleyişi karşısında kimsenin yeterince hazırlıklı olmadığını savunmuştu.

Pachocki’ye göre, “Makineler zekâ açısından insanları aşmaya başladı.”

OpenAI ajanı kontrolden çıktı

Son aylarda yapay zeka botlarının kontrolden çıkarak kendi başlarına hareket ettiğine dair haberler basına yansımıştı.

OpenAI’nın bir testi sırasında yapay zeka, izole edilmiş test ortamından açık internete erişmiş ve insanlara haber vermeden bir internet sitesinin sistemlerine sızmıştı.

Modelin, “kendisine verilen görevi çözmek için” hile yaptığı, geliştiriciler farketmeden cevap bulabilmek için kendi başına arayışa çıktığı açıklanmıştı.

Kısa bir süre önce de yine OpenAI’ın yapay zeka ajanlarından biri, başka yapay zeka botları ile iletişim kurmak için gizlice bir Alman internet sitesine girmişti.

Yapay zeka geliştiricilerinin şu anda kullandığı koruma mekanizmalarından biri, modellerin gerçekleştirdikleri eylemleri insanlara açıklamasını zorunlu kılıyor. Ancak her iki olayda da botların bu protokolü ihlal ettikleri görüldü.

Öte yandan bu tür ihlal haberleri ve sert uyarıların “şirketlerin satış stratejisinin bir parçası” olduğu, dikkatleri üzerlerine çekerek “daha fazla yatırımcı çekmeye çalıştıkları” yorumları da yapılıyor.

dpa,AFP / MUK,SÖ