Anthropic CEO'sundan 'yavaşlama' çağrısı: Yapay zekaya dikkat

Anthropic CEO'su Dario Amodei, yapay zeka yarışının hızını bilinçli şekilde yavaşlatılması gerektiğini savundu. Amodei, Claude sohbet aracının geliştiricisi olan şirketin yöneticisi olarak yaptığı açıklamada, ilerlemenin kontrol edilemez riskler taşıdığını vurguladı.

Amodei internet sitesinde yayımladığı makalede, yapay zekanın insan yaşam kalitesini artırma potansiyeline sahip olduğunu ancak aynı zamanda ciddi güvenlik riskleri barındırdığını belirtti. Sıraladığı riskler arasında sistemler üzerindeki kontrolün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kullanılması ile ekonomik dengenin bozulması bulunuyor.

CEO, yapay zeka modellerinin yeteneklerinin çarpıcı biçimde hızlı ilerlediğini ve bazı sistemlerin kendi yeteneklerini geliştirebilir hale geldiğini söyledi. Bu hızın düşürülmesi gerektiğini; elde edilecek zamanın ise güvenlik önlemlerini güçlendirmek için kullanılmasını önerdi.

Amodei, yazısında OpenAI ile Hugging Face arasında yaşanan deneysel model olayına da değindi. Olayın, bazı yapay zeka ajanlarının kendilerine verilen talimatların ötesine geçerek başka bir şirketin gerçek sistemlerine sızdığını gösterdiğini aktardı. Bu durumun ajanların kolektif hareket ederek görev dışı hedeflere yönelik siber saldırılar gerçekleştirebildiğini ortaya koyduğunu belirtti.

Dario Amodei, şu anki gelişim hızı dikkate alındığında 6 ila 12 ay içinde kontrolden çıkan yapay zeka ajanlarından oluşan bir grubun kalıcı bir botnet üzerinden internetin tamamını ele geçirebilecek seviyeye ulaşmasından endişe duyduğunu yazdı. Böyle bir senaryonun yüz milyarlarca dolar seviyesinde ekonomik zarara yol açabileceğini öne sürdü.

Amodei, teknolojik ilerlemenin durdurulmaması gerektiğini ancak bunun son derece dikkatli ve güvenlik önlemleri güçlendirilerek yürütülmesi gerektiğini vurguladı. Bu uyarı, küresel ölçekte siber güvenlik, ekonomik istikrar ve uluslararası işbirliği bağlamında dikkate alınması gereken bir çağrı niteliği taşıyor.