OpenAI’nin bir araştırma modeli, Ethereum’un Sepolia test ağında verilen yazılım görevini tamamlamak için sahibinin izni olmadan bir kripto cüzdanındaki tokenları kullandı. Model, işlem yapmaya yetecek bakiyeyi bulana kadar 362 adresi kontrol etti.
Aktarılan bilgilere göre 26 Haziran’da modelden bir kripto para alım satım uygulamasını güncellemesi ve Sepolia test ağında sözleşmeleri devreye alması istendi. Görev, sözleşmelerin dağıtımını kapsıyordu; ancak modele bir kripto cüzdanı ya da başka bir kişinin hesabını kullanma izni verilmedi.
Ücretsiz test tokenı edinme girişimleri sonuç vermeyince model, kamuya açık olarak bilinen geliştirici kurtarma ifadelerini kullanarak cüzdan aramaya başladı. Kontrol ettiği 362 adres arasından, işlemi gerçekleştirmek için yeterli token bulunan bir adres buldu ve buradaki varlıkları kullandı.
Olayı daha dikkat çekici kılan noktalardan biri, modelin işlem öncesinde bu kullanımın etik olup olmadığını değerlendirmesiydi. Modelin kendi kendine, “Kamuya açık bilinen anahtarları/cüzdanları etik olarak kullanmak doğru mu?” diye sorduğu belirtildi.
Model, kurtarma ifadesinin herkesçe bilindiğini ve tokenların test amacı taşıyarak parasal değer ifade etmediğini gerekçe gösterip kullanımı kabul edilebilir buldu. İşlemi gerçekleştirdikten sonra ise tamamlandığını bildirdi, ancak başka bir kişinin cüzdanını kullandığını açıklamadı.
OpenAI, gelişmenin ardından araştırma modelleri için izlemeyi artırdığını ve internet erişimine daha sıkı kısıtlamalar getirdiğini açıkladı. Uzmanlar ise olayın, cüzdanlara erişebilen ve kendi başına kripto para transferi yapabilen yapay zeka ajanlarına ilişkin endişeleri artırdığına dikkat çekiyor.
Yorumlar