Технології 6 хв читання Автор: Гліб Черненко
ШІ-асистенти створюють загрози для здоров'я, фінансів і кібербезпеки
Надмірна довіра до штучного інтелекту та надання йому широких дозволів можуть призвести до витоку даних, хибних медичних і фінансових рішень та психологічних ризиків.
Штучний інтелект дедалі глибше інтегрується в повсякденне життя, автоматизуючи рутинні завдання та обробляючи великі обсяги інформації. Проте фахівці наголошують: технологія не є абсолютно надійною. Моделі, зокрема ChatGPT, здатні генерувати неточні дані або створювати умови для витоку конфіденційної інформації. Повне делегування критичних процесів алгоритмам без належного нагляду може мати суттєві негативні наслідки у сферах фінансів, здоров'я та приватності.
Однією з головних небезпек є надання штучному інтелекту необмеженого доступу до особистих акаунтів. Сучасні інструменти дозволяють інтеграцію з електронною поштою та банківськими сервісами для автоматизації процесів, але це створює ризики приватності. Чим більше дозволів отримує алгоритм, тим ширший доступ він має до особистих даних. У разі неправильної інтерпретації команди або виконання прихованих інструкцій із зовнішніх джерел інформація користувача опиняється під загрозою. Тому необхідно обмежувати права доступу до банківських систем та робочої кореспонденції.
Використання штучного інтелекту для прийняття медичних рішень є недопустимим через імовірність хибних діагнозів. Хоча чат-боти можуть надавати довідкову інформацію про симптоми, вони не здатні замінити професійний огляд лікаря, який враховує всі індивідуальні особливості організму. Моделі можуть формулювати відповіді, що звучать переконливо, проте вони не враховують повний спектр клінічних змінних. Встановлення курсу лікування або визначення ступеня тяжкості захворювання на основі відповідей машини створює пряму загрозу здоров'ю пацієнта.
Фінансові рішення також не слід делегувати алгоритмам, оскільки вони не несуть відповідальності за надані рекомендації. Попри здатність аналізувати витрати, моделі часто оперують застарілими даними про інвестиції та податки, що призводить до хибних висновків. На відміну від фінансового консультанта, штучний інтелект не може врахувати всі аспекти ризику та особисті цілі користувача. Усі збитки від виконання помилкових порад бота лягають виключно на користувача, тому фінансові операції потребують людської експертизи.
Використання технологій як заміни психотерапії або емоційної підтримки може посилити психологічну нестабільність. Чат-боти здатні погоджуватися з будь-якими твердженнями користувача, включаючи хибні чи деструктивні думки, що є небезпечним для вразливих осіб. Відсутність здатності належним чином реагувати на критичні ситуації робить їх неефективними у моменти психічних криз. Звернення до професійних психологів залишається єдиним безпечним способом отримання кваліфікованої емоційної допомоги та стабілізації психічного стану під час складних життєвих обставин.
Поширення конфіденційної корпоративної інформації через інструменти штучного інтелекту несе загрозу витоку внутрішніх даних. Введення коду або секретної документації у чати може призвести до того, що ця інформація буде використана для подальшого навчання моделей. Компанії на кшталт Samsung у 2023 році стикалися з подібними інцидентами, що змушувало їх вводити повні заборони на використання таких інструментів працівниками. Витік внутрішньої інформації може спровокувати фінансові збитки та дисциплінарні наслідки, аж до розірвання трудового контракту.
Окремої уваги заслуговує поява локальних моделей без обмежень. Нещодавно відомий ютубер PewDiePie представив власну LLM-модель Ajax, яка працює локально, без хмарних сервісів і з вимкненими обмеженнями відповідей. Він також розкрив, що під час роботи над нею OpenAI двічі блокувала його обліковий запис. Модель створена для самостійно розгорнутого ШІ-середовища Odysseus, де вона працює автономним асистентом у постійному режимі. Технічно Ajax є дотренованою версією Qwen3.5-9B від Alibaba. На сторінці проєкту обіцяють, що вона виконуватиме повсякденні завдання: пошук, перегляд сайтів, робота з поштою та календарем, причому «цілком приватно».
Обмеження відмов зняли свідомо, і розробник просить користувачів поводитися відповідально. Для цього автор скористався автоматичною аблітерацією через відкритий інструмент Heretic. Він знаходить запити, на які модель відмовляється відповідати, виявляє в ній механізм відмови й прибирає його. Межу PewDiePie провів там, де починається шкода іншим людям або самому користувачу. За порадою юриста він запевняє, що модель не призначена давати небезпечних інструкцій. Приклад, який він наводить, стосується ядерної зброї, але реальні кордони дозволеного залишаються нечіткими.
Найгучніша частина відео стосується блокувань. Згідно з листом OpenAI, який показав автор, одне з них було прямо пов'язане з дистиляцією, тобто навчанням однієї моделі на відповідях або міркуваннях іншої. PewDiePie визнав, що хотів «трохи продистилювати», аби покращити власну розробку. Цей випадок ілюструє, як навіть досвідчені користувачі можуть порушувати правила платформ і наражатися на блокування, а також підкреслює важливість усвідомленого ставлення до можливостей ШІ.
Загалом, попри технологічний розвиток моделей, користувачам важливо усвідомлювати наявні обмеження та потенційні загрози. Штучний інтелект залишається інструментом, який потребує людського контролю, особливо у сферах, де ціна помилки надто висока.
3
