Компьютерная Дебаторша из IBM взялась защищать социализм в баттле против финалиста чемпионата мира и чемпиона Европы по дебатам. Проблема в том, что AI не проверяет этичность задач, которые ему поручают. Если Дебаторше поручат защищать позицию "дважды два — пять" или строительство газенвагенов — она честно будет её защищать. "Я только выполняла приказ". В посте привлекается внимание к тому, что этикой нужно заниматься не только для военных роботов с пушками, но и для вполне гражданских мозгопромывательных — типа той же предназначенной для промывки мозгов в заданном направлении Дебатерши.

https://ailev.livejournal.com/1465183.html

February 13, 2019
3 comments
Mikhail Naftal
> Но будущее уже наступило: айбиэмовская Дебаторша уже агитирует за социализм, и 17% мозгов в одной аудитории она сагитировала

Вам не кажется, что проблема то не в неэтичной Дебаторше, агитирующей за всякую фигню по заданию своих неэтичных владельцев, а в этих 17%, которые не сумели разглядеть в её аргументах логические ошибки?
Avatar
IC Rainbow
https://arxiv.org/abs/1902.00506

> In particular, we argue that Hanabi elevates reasoning about the beliefs and intentions of other agents to the foreground.
> We believe developing novel techniques capable of imbuing artificial agents with such theory of mind will not only be crucial for their success in Hanabi, but also in broader collaborative efforts, and especially those with human partners.

Дааа... collaborative. Но никак не adversarial. Честно-честно.
Avatar
IC Rainbow
В общем продолжение Avogadro Corp про дофига убедительный автоответчик уже можно не читать. Скоро будет live action.
Do you want to add a new comment?