Компьютерная Дебаторша из IBM взялась защищать социализм в баттле против финалиста чемпионата мира и чемпиона Европы по дебатам. Проблема в том, что AI не проверяет этичность задач, которые ему поручают. Если Дебаторше поручат защищать позицию "дважды два — пять" или строительство газенвагенов — она честно будет её защищать. "Я только выполняла приказ". В посте привлекается внимание к тому, что этикой нужно заниматься не только для военных роботов с пушками, но и для вполне гражданских мозгопромывательных — типа той же предназначенной для промывки мозгов в заданном направлении Дебатерши.

https://ailev.livejournal.com/1465183.html
February 13, 2019
Show {{ comments_count - comments.length > 50 ? 50 : comments_count - comments.length }} comments out of {{ comments_count }}
Show all comments
...
{{comment.user.first_name + (comment.user.last_name ? ' ' + comment.user.last_name : '')}} replied to {{comment.reply_to_comment.user.first_name }} {{comment.reply_to_comment.user.last_name }}
{{comment.date}}, edited
Comment deleted. Undo
No comments here yet...
Do you want to add a new comment?
Go up