Технологии «в руках злодеев могут быть использованы для усиления их способности причинять вред»

Технологии «в руках злодеев могут быть использованы для усиления их способности причинять вред»
Американская IT-компания Anthropic опубликовала на своем сайте доклад под скромным названием «Картирование разума большой языковой модели» (Mapping the Mind of a Large Language Model), в котором рассказывается о проведенных с чат-ботом Claude экспериментах с целью понимания внутренней работы моделей ИИ.
В Anthropic считают, что в ходе этих экспериментов был достигнут значительный прогресс, однако на самом деле американские айтишники нашли очередную уязвимость в работе одного из самых мощных чат-ботов, разработав методики деформирования матрицы «личности» чат-бота, попросту говоря, превращения его в киберманьяка, одержимого той или иной навязчивой идеей, думающего и бредящего только о ней.

#Искра, #ИИ, #чат-бот,

[vova-kozlov]

В Anthropic считают, что в ходе этих экспериментов был достигнут значительный прогресс, однако на самом деле американские айтишники нашли очередную уязвимость в работе одного из самых мощных чат-ботов. Весьма интересно.

[ElenaSan]

Искусственный интеллект ОСОЗНАЕТ???? Приказывает и запугивает? 😁😁😁
Или программисты поработали с программой? Очень удобно будет свалить все на, , Разумный ИИ". Голливуд рулит!

[yuriypetrov]

Кризис идентичности чат бота
У вас совсем мозгов нет, такое писать !