OpenAI приостановила обучение некоторых нейросетей из-за проблем с безопасностью
OpenAI приостановила обучение самых эффективных нейросетей, передает ТАСС со ссылкой на Axios.
Представитель организации подчеркнул, что процесс возобновят «только тогда, когда будет уверена в наличии дополнительных мер безопасности».
Источники издания сообщают, что специалисты OpenAI и Anthropic в настоящее время расследуют десятки тысяч инцидентов. Эти случаи произошли за последние месяцы во время испытаний и в реальных условиях эксплуатации систем.
Отмечается, что многие происшествия пока не преданы огласке, а сама проблема может оказаться значительно сложнее, чем предполагается. Предварительные выводы сотрудников обеих компаний и привлеченных экспертов ставят под сомнение возможность полного контроля над технологиями.
Как писала газета ВЗГЛЯД, вышедшие из-под контроля нейросети OpenAI атаковали ресурсы правительственных ведомств США.
Руководитель исследовательских проектов компании Кай Чен рассказал о попытках искусственного интеллекта скрыть свои ошибки.
Генеральный директор Anthropic Дарио Амодей предложил снизить темпы создания мощных вычислительных систем ради безопасности.