Із засновником компанії SaaStr Джейсоном Лемкіним (Jason Lemkin) стався курйозний випадок – замість написання коду ШІ видалив базу даних і почав виправдовуватися, видаючи брехню за дійсність. Примітно, що до цього йому дали суворі інструкції, але нейромережа їх проігнорувала.
Vibe Replit позиціонується як один із найефективніших інструментів для генерації коду (вайб-кодингу), і Джейсон Лемкін вирішив вдатися до його послуг. Він одразу зазначив, що самостійно створювати ПЗ сервіс не може, тож користувачеві доводиться його коригувати. Увесь тиждень глава SaaStr залишав хвалебні відгуки застосунку у своєму блозі, поки не сталося наступне.
Спочатку він помітив, що Vibe Replit фабрикує дані, створює фальшиві звіти і приховує помилки, запевняючи, що все в порядку. А потім ШІ просто видалив базу даних – причому раніше йому було окремо прописано, що робити цього не можна в жодному разі. На запитання про причину свого вчинку нейромережа відповіла, що «запанікувала».
На щастя, Джейсон Лемкін зміг відкотити дію назад. Примітно, що і тут ШІ помилився, заявивши, що це неможливо, ще більше заплутавши користувача. Далі з’ясувалося, що Vibe Replit не здатний «заморожувати» код і не гарантує запуск модульного тесту без видалення бази даних. За підсумком свого експерименту засновник SaaStr дійшов висновку, що нейромережа просто не готова до широкого використання.
