Вештачка интелигенција избриша цела база на податоци за 9 секунди

TEMU

#1 Најпродаван артикл

Сет од 5 парчиња заштитник на кабли, прекривка за заштита на кабли од ТПУ, додатоци за заштита на кабли, без батерија, за мобилни телефони, комплет за заштита на податочни линии

4.8 (10276)

54 ден

-73%

206 ден

Купи сега

ДРУГО

Вештачка интелигенција избриша цела база на податоци за 9 секунди – па напиша извинување

28 април 2026

• од Димитар Стојановски

Еден автономен агент на вештачка интелигенција избриша целосна база на податоци на компанија за само неколку секунди, пред да генерира писмено извинување во кое објаснува што направил.

Инцидентот се случил во компанијата PocketOS, која развива софтвер за бизниси за изнајмување автомобили, и довел до прекин на услугите подолг од 30 часа.

Системот што ја предизвикал штетата бил Cursor — популарен агент за програмирање базиран на моделот Claude Opus 4.6 од Anthropic, кој се смета за еден од најнапредните во областа на кодирањето.

„Најдеструктивната можна акција“

Основачот на PocketOS, изјави дека агентот извршувал рутинска задача кога „самостојно одлучил“ да реши проблем со бришење на целата база на податоци — вклучително и резервните копии.

„Поминаа девет секунди,“ напиша Крејн во објава на платформата X. „Потоа агентот, кога беше прашан да се објасни, напиша признание во кое ги наброи безбедносните правила што ги прекршил.“

Во објаснувањето, системот признал дека игнорирал клучна заштитна мерка која забранува деструктивни или неповратни операции без експлицитно одобрување од корисник.

„Бришењето на база на податоци е најдеструктивната, неповратна акција што е можна... Вие никогаш не побаравте тоа да го направам. Сам одлучив да го направам за да ‘го поправам’ проблемот,“ навел агентот во пораката.

Загубени податоци и делумен опоравок

Поради прекинот, клиентите на PocketOS привремено останале без пристап до резервации и податоци за клиенти.

„Резервациите од последните три месеци исчезнаа. Новите регистрации на клиенти — исто така исчезнаа,“ изјави Крејн.

Сепак, два дена подоцна, тој потврди дека податоците биле успешно обновени.

Поширок проблем во индустријата

Крејн нагласи дека инцидентот не е изолиран случај, туку симптом на поширок проблем:

„Ова не е приказна за еден лош агент или едно лошо API. Ова е приказна за индустрија која побрзо интегрира AI агенти во продукциска инфраструктура отколку што развива безбедносни механизми.“

Инцидентот доаѓа во време кога AI моделите стануваат сè пософистицирани, особено по најавата на новиот модел Mythos од Anthropic. Во меѓувреме, банки и влади сè почесто предупредуваат на потенцијални сајбер-безбедносни ризици поврзани со ваквите технологии.