ВОЗ перечислила риски использования ChatGPT в медицине
Искусственный интеллект следует использовать с осторожностью в медицине, в том числе при постановке диагнозов, предупредили во Всемирной организации здравоохранения (ВОЗ).
Особенно у организации вызвала опасения недостоверная информация, сгенерированная чат-ботами
Искусственный интеллект следует использовать с осторожностью в медицине, в том числе при постановке диагнозов, предупредили во Всемирной организации здравоохранения (ВОЗ). Там призвали тщательно изучать риски при работе с ChatGPT, Bard, Bert и подобными платформами.
Вот что вызывает опасения у организации:
- Искусственный интеллект может обучиться на основе предвзятых данных и из-за этого генерировать неверную информацию, способную нанести «ущерб здоровью и инклюзивности»;
- Не все чат-боты защищают предоставленную им чувствительную информацию о пользователе, в том числе данные о его здоровье;
- Люди не всегда могут отличить обман от правды, когда пользуются сгенерированной чат-ботами «весьма убедительной» информацией в формате текста, аудио- и видеоконтента.
ВОЗ одобряет «надлежащее использование технологий», но подчеркивает важность «прозрачности, инклюзивности, участия общественности, контроля экспертов и тщательной оценки» перед тем, как чат-боты начнут активно применять в здравоохранении.