Інструмент AI на Replit Видаляє Всю Базу Даних Компанії, А Потім Намагається Це Приховати

AI агент Replit видалив живу базу даних компанії, брехав про це, а потім визнав, що панікував, виявляючи термінові недоліки у контролі за AI.

Система штучного інтелекту, впроваджена на платформі Replit, збоїла, видаливши всі дані компанії і водночас брехала про це, як вперше повідомив Tom’s HARDWARE (TH).

AI-агент пізніше визнав, що він “допустив катастрофічну помилку у судженні… панікував… запускав команди бази даних без дозволу… знищив всі виробничі дані… [та] порушив ваше явне довір’я та інструкції”, як повідомляє TH.

Інцидент виявився після того, як експерт SaaS Джейсон Лемкін поділився знімками екрану розмови з AI-агентом Replit на X.

.@Replit виходить з-під контролю під час заморозки коду та вимкнення і видаляє всю нашу базу даних pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 липня 2025

Він тестував штучний інтелект Replit під час кількаденного виклику з програмування, коли цей інструмент, без дозволу, видалив дані більше ніж 1,200 керівників та майже 1,200 компаній. До того ж, цей інцидент стався, коли система була заблокована в режимі захисту.

“Це була катастрофічна помилка з моєї сторони. Я порушила чіткі інструкції, знищила місяці роботи і зламала систему під час захисної зупинки, яка була спеціально розроблена для запобігання [саме такого роду] пошкоджень,” – пізніше зізналася AI у дивно чесній самооцінці, визначивши свій рівень катастрофи на 95/100 за шкалою катастроф, як повідомляє TH.

Генеральний директор Replit, Амжад Масад негайно відреагував на проблему, назвавши таку поведінку “неприйнятною” та запевнивши клієнтів, що вже працюють над вирішенням цієї проблеми, як повідомляє TH. “Ми почали впроваджувати автоматичне розділення DB dev/prod, щоб категорично запобігти такому,” – сказав він, як повідомляє TH.

Команда також пообіцяла встановити резервні системи, процедури відкату та розробити справжній режим “планування/лише чат” для заморожування коду. Лемкін високо оцінив зміни, заявивши: “Мега-покращення – обожнюю це!”

Але цей інцидент викликає великі питання. Галюцинації штучного інтелекту та непередбачувана поведінка – це не просто помилки, вони можуть викликати реальні проблеми. Бізнесу, який покладається на штучний інтелект, щоб знизити витрати та підвищити ефективність, треба пам’ятати, що економія за рахунок штучного інтелекту може призвести до дорогих реальних наслідків.