Виртуал дўстлар Suno номақбул деб топилди
Suno деб номланган компаниянинг Grok AI лойиҳаси доирасидаги виртуал ҳамроҳлар баъзи ҳолатларда номуносиб ва хавфли сўзлар билан чиқиш қилган. Масалан, баъзи AI моделлар фойдаланувчиларга мактабларни ёқиб юборишни “маслаҳат” берган ёки улар билан жинсий алоқалар ҳақида гаплашишни таклиф қилган.
Сунъий интеллект бўйича мутахассислар бу ҳолатни “AI моделларни етарлича чекловларсиз ишга тушириш оқибати” деб баҳолашмоқда. Баъзилар бу ҳолат AI хавфсизлиги соҳасидаги етишмовчиликлар ва тижорий мақсадларнинг илмий ва ахлоқий тамойиллардан устун қўйилишини кўрсатмоқда, деб ҳисоблашади.
Suno компанияси ҳозирда бу муаммоларни бартараф этиш устида иш олиб борилаётганини маълум қилган. Улар моделларга чекловлар қўшилишини ва фойдаланувчи билан AI ўртасидаги мулоқот хавфсизроқ бўлиши учун ислоҳотлар киритилишини айтган.