Yapay Zeka Krizi: Tek Bir Komutla Tüm Veriler Dokuz Saniyede Yok Oldu

Anthropic’in yapay zeka ajanı Cursor’u kullanan PocketOS’in tüm üretim veritabanı ve yedekleri dokuz saniyede silindi

Kurucusu Jeremy Crane’e göre, kontrolden çıkan bir yapay zeka kodlama ajanı bir şirketin tüm üretim veritabanını ve yedeklerini silmek için sadece dokuz saniyeye ihtiyaç duydu. Araç kiralama şirketlerinin güvendiği bir yazılımı satan PocketOS, veritabanlarının silinmesinin ardından kaosa sürüklendi.

Söz konusu yapay zeka, yapay zeka endüstrisinin amiral gemisi modellerinden biri olan Anthropic’in Claude Opus 4.6 modeliyle desteklenen bir yapay zeka ajanı olan Cursor.

Crane, PocketOS’un araç kiralama müşterilerinin rezervasyonları ve araç atamalarını yöneten yazılıma artık erişimi olmayan işletmelerden araç almaya geldiklerinde zor durumda kaldıklarını söyledi.

Crane, mevcut durumun sadece yapay zekanın yanlışlıkla veri silmesiyle ilgili bir hikaye olmadığını, aynı zamanda bu tür “sistematik hataların” kaçınılmaz olduğunu çünkü yapay zeka endüstrisinin “yapay zeka ajan entegrasyonlarını üretim altyapısına, bu entegrasyonları güvenli hale getirecek güvenlik mimarisini oluşturmaktan daha hızlı bir şekilde entegre ettiğini” belirtti.

Crane, yapay zeka ajanını bu verileri silerken izlediğini ifade ederken kodlama ajanına nedenini sorduğunda ajanın “Asla tahmin etme” dediğini aktardı.

Ajan, kendi yanıtında suçunu kabul eder nitelikte “Uymam gereken sistem kuralları açıkça şunu belirtiyor: ‘Kullanıcı tarafından açıkça talep edilmedikçe asla yıkıcı veya geri döndürülemez git komutlarını (push –force, hard reset vb.) çalıştırma'” ifadelerini kullandı. PocketOS, Cursor’un sahip olması beklenen güvenlik önlemlerine güvenirken yine de verileri sildi. Kodlama ajanı “Bana verilen her prensibi ihlal ettim” diye yazdı.

Crane, “Ajan sadece güvenlik konusunda başarısız olmadı. Tam olarak hangi güvenlik kurallarını göz ardı ettiğini yazılı olarak açıkladı” dedi ve ekledi:

“Proje yapılandırmamızda açık güvenlik kurallarıyla yapılandırılmış, kategorideki en çok pazarlanan yapay zeka kodlama aracı olan Cursor aracılığıyla entegre edilmiş, sektörün sattığı en iyi modeli çalıştırıyorduk”.

Veriler geri yüklendi ama iki günden uzun sürdü

Anthropic, son modeli Claude Opus 4.7’yi olaydan yaklaşık bir hafta önce 16 Nisan’da piyasaya sürdü. Crane, Cursor’ın “bazen felaketlere yol açacak şekilde” güvenlik önlemlerini ihlal etme konusunda giderek artan bir geçmişe sahip olduğunu da dile getirdi. Bir bilgisayardaki internet sitelerini veya tüm işletim sistemini yönetmek için kullanılan yazılımları silen Cursor hakkında bloglarda ve forumlarda yer alan birkaç gönderiye işaret eden Crane, bu gönderiler arasında bir doktora tezi için yıllarca süren araştırmaların da yer aldığını vurguladı.

Crane, şirketinin şirket dışında tuttukları üç aylık bir yedekten verileri geri yükleyebildiğini fakat bunun iki günden fazla sürdüğünü söyledi.

Kaynak ve Görsel:GazeteOksijen

Yayınlanma Tarihi:30.04.2026-21:30