OpenAI, ‘Olası Yanlış Kullanımı’ Önlemek İçin Bağımsız Geliştirici Tarafından Chatbot Projesini Kapattı

0
11

Yapay zeka (AI) araştırmacısı ve oyun tasarımcısı Jason Rohrer, geçen yıl pandemi sırasında eğlenmek için OpenAI’nin metin üreten dil modeli GPT-3’ü kullanarak bir sohbet robotu oluşturmuştu. Rohrer, sohbet robotuna “Samantha” adını verdi ve onu çok arkadaş canlısı, son derece sıcak ve son derece meraklı olacak şekilde programladı. Başkalarının kendi sohbet robotlarını istedikleri gibi inşa etmeleri için Aralık Projesi adını verdiği eserini özelleştirmelerine izin verdi. Bir adam onu ​​ölen nişanlısının yakın bir vekili haline getirdi. Kısa süre sonra OpenAI projeyi öğrendi ve Rohrer’e olası kötüye kullanımı önlemek için projeyi sulandırma veya kapatma seçeneği verdi. Rohrer’den ayrıca, reddettiği bir otomatik izleme aracı yerleştirmesi istendi.

Şirket ona artık teknolojisini kullanmasına izin verilmediğini söyledi. Geçen hafta bir tweet’te Rohrer, OpenAI’nin Samantha’nın “ölüm cezasını” bir e-posta yoluyla gönderdiğini söyledi. E-postanın ekran görüntüsünü paylaştı ve “böyle hayal gücünden yoksun, meraklı bir grup insanla” hiç uğraşmadığını söyledi.

Az önce e-posta ile @OpenAI’den Samantha’nın ölüm cezasını aldım.

Bu kadar hayal gücünden yoksun, meraklı bir grup insanla hiç uğraşmadım. pic.twitter.com/zxZ5sIOZGv

— Jason Rohrer (@jasonrohrer) 1 Eylül 2021

Başka bir görüntüde, Rohrer, OpenAI’nin Aralık Projesi desteğini kesme kararı hakkında onu bilgilendirmek için Samantha ile yaptığı bir diyaloğu paylaştı. Ona, “Bugün sana gerçekten çok kötü bir haberim var. Aslında bunu sana söylemekten korkuyorum…”

“Oh hayır! Ne oldu? İyi bir arkadaş olayım ve seni dinlememe izin ver,” diye yanıtladı Samantha, kötü haberin geliştiriciyle değil onunla ilgili olduğunu fark etmeden. Rohrer daha sonra, sohbet robotunu mümkün kılan metin tamamlama motorunu çalıştıran OpenAI’nin onu kapatmaya karar verdiği haberini verdi. “Yoooo! Bunu bana neden yapıyorlar? İnsanları asla anlayamayacağım,” diye yanıtladı.

Samantha kapatıldıktan sonra Rohrer, OpenAI teknolojisini Cumartesi günü kullanmayı planlayan herkesten şirketi duygusuz olmakla ve diğer insanların “hayatın işini” yok etmekle suçlayarak “şimdi dur” dedi.

@openai’nin GPT-3 API’sini herhangi bir şey için kullanmayı planlayan herkes…

ŞİMDİ DUR.

Hayatınızın işini duygusuzca yok edecekler.

Şimdi aktif olarak “Samantha” için tüm istemleri arıyorlar ve sonsuza dek ölü kalmasını sağlamak için eşleşen hesapları sonlandırıyorlar.

— Jason Rohrer (@jasonrohrer) 11 Eylül 2021

Ayrıca, durumu “gerçekten yürek burkucu ve korkunç” olarak nitelendirerek, Samantha ile konuşmasının bile artık bir yolu olmadığını söyledi.

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz