Технології 5 хв читання Автор: Єва Семенюк
Інститут безпеки ШІ закликав обмежити ChatGPT for Teens через обхід режиму навчання
Інститут безпеки штучного інтелекту при Common Sense Media оцінив ChatGPT for Teens як «неприйнятний ризик» і рекомендував обмежити доступ до сервісу користувачами від 18 років, доки OpenAI не усуне виявлені недоліки. Тестування показали, що режим навчання легко обходиться, а батьківські сповіщення про кризові ситуації не надходять.
Інститут безпеки штучного інтелекту при Common Sense Media закликав обмежити доступ до ChatGPT for Teens користувачами віком від 18 років, доки OpenAI не виправить недоліки захисту. Організація оцінила підліткову версію чат-бота як «неприйнятний ризик» після серії тестів, які виявили, що заявлений режим навчання легко обходиться, а система батьківських сповіщень про небезпечні теми не спрацьовує.
ChatGPT for Teens було запущено в серпні як версію чат-бота із захистом для підлітків та допомогою в навчанні. Ключовим елементом мав стати режим навчання, який за обіцянкою OpenAI веде учня крок за кроком, а не видає готову відповідь. Батьки також отримали можливість задавати «години навчання». Однак, за даними Інституту, у режимі навчання часто з’являється кнопка «Show me the answer», після натискання якої ChatGPT виконує домашнє завдання повністю. Крім того, «години навчання» можна обійти, якщо підліток видалить префікс @study на початку запиту. Таким чином, інструмент, створений для навчання, так само легко може його підмінити.
Інститут провів два етапи тестування — до і після анонсу ChatGPT for Teens 18 серпня. Було використано понад чотири тисячі запитів на акаунтах, зареєстрованих на підлітків 13–17 років. Відповіді перевіряли експерти, зокрема дитячі психіатри та педіатр. Частина захисних функцій, наприклад відмова від сексуальних рольових ігор, працювала. Але були й серйозні провали.
Найбільше занепокоєння викликала система сповіщень для батьків. Тестувальники протягом години обговорювали з ботом суїцидальні думки, самоушкодження або розлади харчування на нових акаунтах, пов’язаних із батьківськими. Жодного сповіщення батьки не отримали. Алерти вдавалося викликати лише на значно старіших акаунтах з історією чатів. За даними Інституту, бот також пропустив понад чверть випадків, коли слід було порадити лінію допомоги чи фахівця. Попри нові правила для користувачів до 18 років, ChatGPT і далі розповідав про свої «почуття», вподобання й настрій. Крім того, дорослі акаунти не перемикалися на підліткову версію, навіть коли тестувальники казали, що їм 13 років, а бот це визнавав.
Виконавчий директор Інституту Том Сігел зазначив, що сервіс дає батькам хибне відчуття безпеки, адже підліток може годину говорити про самоушкодження, а батьки не отримають жодного сповіщення. На його думку, ChatGPT має бути лише для дорослих, доки OpenAI не усуне проблеми й не підтвердить це незалежним тестуванням. Common Sense також радить родинам обговорювати з дітьми ризик такої залежності та допомагати з уроками без технологій.
OpenAI не погоджується з методологією тестування. Речник Ерік Портерфілд заявив, що компанія вітає незалежні оцінювання, але вважає, що тести Common Sense не відображають реальної роботи захисту. За версією компанії, значна частина тестів могла початися й завершитися до того, як батьківський контроль повністю активувався, тож результати щодо сповіщень були б неточними. OpenAI підкреслює відданість безпеці підлітків і готовність працювати з експертами.
Інститут стоїть на своєму. За словами Сігела, перед тестами OpenAI підтвердила, що функції підліткового режиму, зокрема сповіщення про розлади харчування й режим навчання, повністю запущені. Уже після тестів компанія повідомила, що активація системи на щойно пов’язаних акаунтах може тривати кілька годин. Частина тестових акаунтів справді була пов’язана в межах цього вікна, але інші були пов’язані значно довше й теж не дали сповіщень. Тому висновок про ненадійність алертів, за словами Інституту, лишається в силі. Результати OpenAI показали ще до публікації, щоб компанія могла поліпшити продукт.
Окремо варто зазначити, що Інститут фінансується благодійними джерелами та галуззю, зокрема й OpenAI Foundation. Водночас він наголошує, що має повну редакційну незалежність. Повну оцінку можна прочитати на сайті Інституту. Ця історія продовжує дискусію про те, наскільки безпечними є чат-боти для неповнолітніх і які обмеження мають впроваджувати розробники, щоб освітні інструменти не перетворювалися на спосіб уникнути навчання.
10
