Несмотря на обновлённые условия использования, ChatGPT продолжает отвечать на медицинские и юридические вопросы. Обновление правил, призванное ограничить выдачу советов, требующих лицензии, почти не отразилось на поведении модели: пользователи по‑прежнему получают развёрнутые рекомендации по здоровью и праву, хотя такие ответы сопровождаются оговорками о неофициальном характере и основаны на общедоступных данных.
29 октября OpenAI изменила политику использования ChatGPT, отдельно подчеркнув, что бот не должен давать консультации в областях, где законом предусмотрена профессиональная ответственность — прежде всего в медицине и юриспруденции. Тем не менее глава направления HealthAI в OpenAI Каран Сингхал заявил, что фактических нововведений в ограничениях не произошло: по его словам, это не новое правило, а уточнение формулировок, и поведение модели не менялось.
На практике сеть продолжает рассуждать, как будто обладает экспертизой: она объясняет правовые термины, разбирает типовые сценарии, подсказывает возможные шаги и предлагает перечни симптомов или рекомендации общего характера. Формально такие ответы подаются как информационные, а не врачебные или юридические заключения, однако для многих пользователей это различие неочевидно — и именно в этом кроется основная зона риска.
Отдельно стоит отметить масштаб запросов на чувствительные темы. По оценкам отрасли, еженедельно более миллиона обращений содержат сообщения о суицидальных мыслях и кризисных состояниях. Это демонстрирует, насколько люди склонны воспринимать диалог с ИИ как доступную и безотлагательную поддержку. Однако алгоритм не обладает ни полномочиями, ни клиническими протоколами, ни ответственностью, сопоставимой с работой лицензированного специалиста.
Представители OpenAI подчёркивают, что ChatGPT не заменяет врачей, адвокатов и иных профессионалов. Его ответы — это компиляция уже существующей информации, оценок и шаблонов рассуждений, а не персонализированная экспертиза. При этом граница между «общей информацией» и «практической рекомендацией» в диалоге часто размывается: пользователь ожидает конкретных шагов, а модель, стараясь быть полезной, выстраивает план действий, который может выглядеть как полноценная инструкция.
Почему так происходит. Модели, обученные на больших объёмах текстов, оптимизируются под полезность и связность ответа. Если вопрос сформулирован как запрос совета, ИИ стремится удовлетворить его в привычном людям формате — «сделай раз, два, три». Сдерживающие механизмы — фильтры, предупреждения, отказ от ответа — зависят от настроек и подсказок системы, но они не всегда распознают контекст, особенно когда вопрос выглядит безобидно или завуалированно.
Чем это чревато для пользователей. Во‑первых, есть риск неточностей и «галлюцинаций»: модель может уверенно выдать неверную трактовку закона или устаревшую медицинскую информацию. Во‑вторых, даже корректные сведения без учёта индивидуальных обстоятельств могут привести к ошибочным решениям. В‑третьих, возникает иллюзия проверки источников: убедительный тон ответа воспринимается как гарантия качества, хотя это не так.
Что делать, если вы всё же используете ИИ в чувствительных темах:
- относитесь к ответам как к справочной информации, а не к инструкции к действию;
- для медицинских вопросов обращайтесь к врачу, для правовых — к адвокату или профильному юристу;
- перепроверяйте формулировки законов в актуальной редакции и разъяснениях компетентных органов;
- не полагайтесь на ИИ в экстренных ситуациях и при угрозе жизни; при кризисных состояниях нужна немедленная помощь специалистов вашего региона.
Как индустрия может минимизировать риски. Компании, разворачивающие ИИ‑решения, уже экспериментируют с контекстными предостережениями, жёсткими «заглушками» на триггерные темы, маршрутизацией к живым специалистам и встраиванием проверенных баз знаний. Перспективным выглядит подход «AI‑как‑черновик»: модель формирует черновой ответ, но до пользователя он доходит только после проверки модератором или лицензированным экспертом. Другой путь — режимы с пониженной уверенностью и явными сценариями отказа: вместо категоричного совета пользователь получает набор вопросов для обсуждения с профессионалом.
Регуляторный контур также будет ужесточаться. Ожидаемыми выглядят требования к маркировке ИИ‑ответов, логированию диалогов в чувствительных темах, документированию источников и ограничению персонализации в области здоровья и права. Вероятно, появятся и отраслевые стандарты для разработчиков: от обязательных тестов на отсутствие вредных советов до сертификации доменных моделей под надзором профильных органов.
Для образовательных и корпоративных сценариев важно внедрять правила «двухпартийной проверки»: если сотрудник использовал ИИ для подготовки ответа клиенту по медицинской или юридической теме, финальную версию должен утверждать человек с соответствующей квалификацией. Это снижает риск ошибок и помогает формировать у аудитории правильные ожидания от технологий.
Пользовательский опыт можно улучшить через прозрачность. Если система объясняет, что она делает: обобщает общедоступные сведения, не имеет доступа к персональным данным, не даёт диагнозов и не предоставляет юридических услуг, — уровень недопонимания снижается. Дополнительную пользу принесёт явная индикация уровня уверенности и ссылки на типовые стандарты доказательности информации, например пометки «общее образование» против «клинические рекомендации», без выдачи конкретных инструкций.
Вопрос качества данных остаётся ключевым. Даже при идеальных фильтрах модель не станет безопаснее, если обучена на спорных или устаревших материалах. Поэтому разработчикам важно отслеживать свежесть корпуса, балансировать источники и подтверждать критические факты через системы поиска и ранжирования, настроенные на проверенные публикации. При этом окончательная ответственность за интерпретацию и применение информации должна оставаться у человека‑специалиста.
Наконец, пользователям стоит развивать здоровый скепсис к «универсальным советчикам». ИИ прекрасно справляется с задачами навигации по информации, резюмирования и генерации вариантов формулировок. Но там, где на кону здоровье, свобода и деньги, решающее слово должно принадлежать профессионалам. Обновлённые правила OpenAI лишь фиксируют эту очевидную грань — даже если поведение модели пока не полностью подстроено под формальные запреты.
Итог прост: ChatGPT и подобные системы полезны как компас в океане данных, но не как рулевой в юридических и медицинских штормах. Их сила — в помощи с изучением темы и подготовкой к разговору с экспертом. А ответственность за диагнозы, интерпретации законов и выбор стратегии должна оставаться у тех, кто несёт за это профессиональную и правовую ответственность.
