İnsan gibi metin yazabilen yapay zekâ programı ‘tehlikeli’ bulundu

İnsan gibi metin yazabilen yapay zekâ programı ‘tehlikeli’ bulundu

OpenAI adlı yapay zekâ çalışmaları yürüten kuruluş metin yazarlığı alanında geliştirdikleri yazılımı denemeye karar verdi ve sonuçlar “tehlikeli” bulundu. GPT-2 adlı yapay zekâ algoritmasının yapabildiklerini görünce şoka uğrayan araştırmacılar çalışmanın tamamının yayımlanmamasına karar verdi.

Yazılım basit olarak kendisine verilen bir metinde sırada kullanılacak kelimeleri seçiyor ve metnin tutarlı şekilde devamını getiriyor. Tıpkı bir insan gibi yazabildiği görülen algoritma üzerindeki çalışmalar kötü amaçlarla kullanımı ve yol açabileceği zararlar düşünülerek şimdilik durduruldu.

Euronews’ten Sertaç Aktan’ın haberine göre, bir insandan farksız şekilde her konuda mükemmel metin yazarlığı yapabilen bir yazılımın özellikle “yalan haber” üretimi ve sosyal medyada trendler oluşturmak veya siyasi, ekonomik saldırı amaçlarıyla robot hesaplarca kullanılabileceği öngörülüyor.

İnsan varlığına bir numaralı tehdit

Kendi kendini sürebilen Tesla otomobilleri ve kendi kendine iniş yapan roketler üreten SpaceX firmasının sahibi Elon Musk’ın en büyük finansörü olduğu OpenAI, kâr amacı gütmeyen ve pek çok alanda yapay zekâ geliştiren bir organizasyon.

Musk yapay zekânın insanoğlunun varlığına bir numaralı tehdit olduğunu düşünüyor ve bu konuda yetkilileri her fırsatta uyarıyor. OpenAI’ın kurucularından olan Musk, bu organizasyonda yöneticilik yapmıyor ve yapılan araştırmalara müdahale etmiyor ancak içeriğini herkesten önce öğrenebiliyor.

Organizasyondaki araştırmacılar da çoğunlukla Musk’ın vizyonunu ve çekincelerini paylaşıyor. Bu nedenle sadece araştırmacıların kullanabilmesi ve testler yapabilmeleri için yazılımın tamamlanmış hali değil kısıtlı bir modeli yayımlanacak.

GPT-2’nin geliştirilmesinde 8 milyon web sayfasından 40 GB’lık veri toplandı. Yazılımın ilk modeli olan GPT için sadece 4 GB kullanılmıştı. Yazılım bir süre sonra kendi kendine öğrenmeye ve çok az bir done verilmiş olsa bile detaylı metinler oluşturmaya başladı.

Tamamen hayal ürünü şeylerden oluşan bir metni dahi kendi içerisinde son derece tutarlı şekilde tamamlayabilen GPT-2’nin özellikle fazla teknik olmayan içeriklerde çok başarılı olduğu gözlemlendi.

Boynuzlu atlar bulundu

Örneğin GPT-2 sadece ilk iki cümlesinden yola çıkarak 9 paragraflık bir haber metni yazabiliyor.

Aşağıdaki iki cümle GPT-2’ye verildi:

“Bilim insanları şoke eden bir keşifle Andes dağlarında daha önce ayak basılmamış bir vadide boynuzlu atlar buldu. Keşfi daha da ilginç yapan şey atların mükemmel şekilde İngilizce konuşuyor olması.”

GPT-2 yazılımının devamını 9 paragrafla getirdiği metinden kısa bir bölüm:

“Dört boynuzlu, gümüş-beyaz renkli olan ve daha önce varlıkları bilinmeyen bu atlara bilim insanları ayırıcı özellikleri olan boynuzlarından yola çıkarak ‘Ovid’s Unicorn’ ismini verdi.

La Paz Üniversitesi’nden evrimsel biyolog Dr.Jorge Pérez ve araştırma ekibi Andes Dağları’ndaki bu vadide çalışmalarını sürdürüyor. Ekip şimdiye kadar bu alanda başka hiçbir insan veya hayvana rastlamadı. İlk bulgulara göre vadi doğal bir çeşme havuzu gibi şekillenmiş. Her iki tarafında kayalık karlı zirveler bulunuyor ve kar suları vadiyi besliyor….”

Gazeteciler bile farkı anlayamıyor

Yazılımı deneme amaçlı kullananlardan biri de İngiliz The Guardian gazetesi oldu. Gerçek bir konuda GPT-2 ile sahte bir haber hazırlayan gazete yazılımın haberi sadece 15 saniyede oluşturduğunu ve gazetecilerinin dahi metnin yapay zekâ tarafından yazıldığını fark edemediğini duyurdu.

OpenAI GPT-2 ve benzeri yazılımlar hakkında altı ay içerisinde halka açık bir konferans ve tartışma seminerleri gerçekleştirmeyi planlıyor. Hedef bu alandaki stratejileri ve etik kurallar çerçevesini belirleyebilmek.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

İlginizi Çekebilir

Yorum Yaz

E-postanız paylaşılmaz. * işaretli alanların girilmesi zorunludur.

İptal

Son yazılar

En çok okunanlar

En çok yorumlananlar