Tehlike! Var olmayan kelimeler üreten yapay zeka geliştirildi

17 Mayıs 2020, Pazar Bilim-Teknoloji

Instagram'ın eski bir mühendisinin geliştirdiği yapay zeka, daha önce hiç var olmamış kelimeler üretiyor.

Günümüzde bir hayli gelişen yapay zeka teknolojileri, karşımıza ilginç algoritmalar çıkarmaya devam ediyor. Daha önce hiç var olmayan insan yüzleri üreten yapay zeka geliştirildiğini sizlerle paylaşmıştık.

Şimdi de hiç var olmayan kelimeler üreten bir yapay zeka algoritması geliştirildi. Instagram'ın öneri algoritmasını oluşturmaya yardımcı olan bir mühendis tarafından geliştirilen bu web sitesi, olmayan kelimeler için yapay zeka tarafından oluşturulmuş yeni tanımlar üretiyor.

Örneğin aşağıdaki görselde üretilen ''durasterent'' kelimesi, ''hafif iştahlı bir kişi'' olarak tanımlanıyor. Ancak gerçekte böyle bir kelime bulunmuyor. Üstelik sistem, ürettiği kelimeleri cümle içinde kullanmayı da ihmal etmiyor.

Ayrıca sayfayı her yenilediğinizde, sistem var olmayan kelimeler üretmeye devam ediyor.

 

SİSTEM NASIL ÇALIŞIYOR

Yeni kelimeleri oluşturan gerçek yapay zeka, doğal dil işleme algoritması Transformers'a ve dil çerçevesi GPT-2'ye dayanıyor.

GPT-2 algoritması, bir metin parçası verildiğinde mevcut bilgileri kullanarak bir sonraki kelimeyi öngörebiliyor ve bir insanın yazdığı metinden neredeyse ayırt edilemeyecek bir metin yaratıyor.

AYIRT EDİLEMEYEN METİNLER ÜRETTİĞİ İÇİN TEHLİKELİ OLABİLİR

GPT-2 algoritması, bir insanın yazdığı metinden ayırt edilemeyecek sahte metinler üretebiliyor ve bu da gelecekte sahte haberlerin yayılmasının önünü açıyor. Bu nedenle bu algoritma oldukça tehlikeli olarak tanımlanıyor.

Site, sosyal medya sitesi Reddit'in en çok beğeni toplayan içeriklerinden alınan 8 milyon internet sayfasının oluşturduğu veri tabanını inceleyerek çalışıyor.

Algoritmalar, bir kelimenin yanında görülen başka bir kelimenin ne zaman kullanıldığını algılayabiliyor.


Benzer Haberler