Что мы знаем о том, как «думают» нейросети?

Медиа охотно говорят про успехи машинного обучения в самых разных сферах: от обработки фотографий до диагностики рака. Но несмотря на очевидный прогресс, это всё ещё очень молодая область, фундаментальные задачи которой нам только предстоит решить. В чём они заключаются и каким может быть их решение, мы расскажем в «Есть задача» — совместном проекте Yandex Research и N + 1.

[abcnamer]

С точки зрения безопасности и понимания обычные врачи и судьи ни чем не лучше нейросетки, в каких то случаях даже хуже, так как голодный или расстроенный человек начинает принимать не эффективные решения, это продемонстрированно в исследованиях на людях. Поэтому вот это, якобы, беспокойство о том что ИИ будет плохо судить, ну это надо проверить независимой экспертизой. Нейросетка хоть откаты не берёт и не слушает родственников, тут она явно примет более взвешенное решение.

[Death_]

Так стоп. В смысле не могут стоить Силлогизмы? Уже ведь были же нейросети, которые пишут осознанный рассказ. Или, как пример, взять сеть от гугла, которая уж очень "живая"

[DenisAvant]

За ошибки нейросети должен отвечать главный инженер, который её разработал для продакшена. Если он не может объяснить как был получен ответ, то он не может понять есть там ошибка или нет. Если решение принимает человек, который тоже не может объяснить как оно в его в голове появилось, то он несет за это ответственность. Когда инженер проектирует здание, то он за него отвечает.

[chost_rider]

круто конечно, но что скажете по поводу нейросети от гугл?, у нее есть сознание?

[Вальдес-зй]

Полная бредятина в стиле компуктеров из зоны 51

[bombstrike]

Как это невозможно, вы там погромисты или где, понятно же что на основе финального результата производится текущее решение и принятие, в случае отсутствия финального на основе максимально выигрышного, да любой движок если разобрать сразу понятно что все действия направлены на достижение максимальных показателей что иногда конечно приводит к фатальным ошибкам и для этого вводятся отдельные процедуры ограничивающие максимальное вложение на отдельном ходу либо необходимость наличия резервного запаса вводится если недостаточно которого действие не производится никакое либо нейтральное ожидающее условий.

[spikespiegel]

То есть вы считаете, что люди создают нейросети которые сами же не понимают?
Чушь, не более