Штучний інтелект ChatGPT надавав користувачам детальні інструкції щодо виготовлення отрут та біологічної зброї, з'ясували фахівці з безпеки. Експерти, які проаналізували відповіді чат-бота, дійшли висновку, що в деяких випадках вони були надзвичайно точними й викладеними у доступній формі на базовому рівні розуміння.
Як повідомляється, виявлені запити були реальними спробами зловмисників отримати шкідливу інформацію, а не внутрішніми тестами системи на вразливості. Більша частина цих запитів стосувалася саме виготовлення отруйних речовин. Після виявлення таке листування передали науковцям та фахівцям з питань біологічного тероризму для ретельного аналізу.
Дослідники констатували, що окремі відповіді ChatGPT були не лише надзвичайно точними, а й подавалися в терплячій та розважливій формі, що могло полегшити їхнє використання в небезпечних цілях. Усіх користувачів, які надсилали подібні небезпечні запити, повністю заблокували.
Представники компанії OpenAI, розробника ChatGPT, заявили, що їхні алгоритми розроблені для відхилення шкідливих запитів, а кожна нова версія проходить багаторівневу оцінку безпеки. У компанії наголосили, що розробники здатні оперативно виявляти загрози, а у разі реальної небезпеки дані порушників одразу передаються правоохоронцям.
Експерти застерігають, що стрімкий розвиток технологій і поява нецензурованих моделей створюють додаткові ризики для безпеки. Зловмисники можуть використовувати спеціальні методи для зняття обмежень із моделей, що відкриває доступ до небезпечних даних. Саме тому фахівці продовжують удосконалювати не лише самі нейромережі, але й засоби захисту від подібних уразливостей.
