Компанія OpenAI оголосила про нову функцію, яка дозволятиме батькам отримувати повідомлення у випадку, якщо акаунт їхньої дитини-підлітка буде заблокований у ChatGPT за порушення правил, пов’язаних із погрозами чи проявами насильства. Це розширення системи батьківського контролю, яку компанія запровадила минулого року.
Раніше батьки могли пов’язати власні акаунти з акаунтами дітей, щоб встановлювати години, коли чатбот недоступний, обмежувати чутливий контент та отримувати сповіщення, якщо система виявляла ознаки можливих думок про самогубство. Тепер до цього додано ще один рівень контролю — повідомлення про випадки, коли підліток може становити небезпеку для інших.
У прикладі, який компанія навела, батькам надходить повідомлення з позначкою “важливе оновлення” щодо акаунта їхньої дитини. Після переходу за посиланням вони бачать розширене пояснення, що акаунт було деактивовано через порушення правил використання, які стосуються актів насильства.
OpenAI розробила цю функцію у співпраці з компанією Moonshot, що спеціалізується на моніторингу та протидії онлайн-насильству. Засновниця Moonshot Відья Рамалінгам зазначила, що повідомлення батьків про серйозні випадки з можливістю отримати додаткову інформацію є важливим першим кроком, який дає сім’ям шанс втрутитися на ранньому етапі та звернутися по допомогу.
Раніше OpenAI пообіцяла посилити свої протоколи безпеки після інциденту в Канаді, коли було виявлено, що підозрювана у масовому вбивстві використовувала ChatGPT. Тоді компанію викликали на слухання канадські органи влади після повідомлень, що вона не поінформувала правоохоронців про блокування акаунта нападниці. Генеральний директор OpenAI Сем Альтман пізніше навіть публічно вибачився за цю ситуацію.
Окрім нової системи сповіщень, OpenAI також додала можливість активувати “Режим навчання” безпосередньо з панелі батьківського контролю. У цьому режимі ChatGPT спершу надає підказки на запитання перед відповідями, щоб допомогти учням краще засвоювати навчальний матеріал.
Крім того, чатбот тепер частіше нагадуватиме підліткам, які проводять багато часу у спілкуванні з ним, про необхідність робити перерви для формування здорових цифрових звичок.
