Робот в руках дурака — тоже дурак Об этических, культурных и психологических проблемах, связанных с доверием ИИ.На удивление много людей пришло защищать робота Грока в ответ на то, что я его исправила и назвала тупым после уверенно выданной им галиматьи. Понимаю, что жалость к роботу — это жалость к самому себе (так называемая проекция). И что люди, с трудом сочувствующие себе, будут жалеть кого угодно: бездомную собаку, одинокую туфельку на обочине, колотую чашку или языковую модель. Разумеется, жалость, тем более к живому страдающему существу, совершенно нормальна, но все дело в том, насколько она сильна, болезненна и действительно ли направлена на другого.Я подумала и решила расписать пример проективной жалости. Вот старая чашечка с отбитым боком. И я такая же старая и побитая. Она одна осталась из сервиза. Стоит, несчастная, на полке, и выкинуть рука не поднимается. И я тоже совсем одна, никому не нужная, выбросила бы себя давно, да рука не поднимается. Ах, как жалко чашечку! Милая, родная, ни за что тебя не выброшу! …Робот притом разговаривает. Увидеть в нем живое и начать испытывать к нему чувства очень легко.Но есть еще одна вещь, которая заботит меня куда сильнее, чем проекция. Это потеря способности к критическому мышлению. Нагуглить и раньше можно было что угодно, особенно по эмоционально окрашенным запросам вроде: «Опасны ли вакцины?», на которые возбуждались мусорные слои интернета. Но при самостоятельном поиске хотя бы есть возможность отыскать разные статьи и проверить их достоверность. С нейросетью, бредящей уверенно и звучащей авторитетно, как в моем примере с дагеротипом Гоголя, который Грок назвал подделкой, вероятность того, что человек доберется до истины, приближается к нулю.Распространение ложной информации — крайне серьезная угроза для всего человечества. К сожалению, замусоривание интернета бредом и дальнейшее заражение им наших голов будет только продолжаться. Огромная ответственность лежит на тех, кто занимается разработкой нейросетей и их запуском в открытый доступ. Но не только на них. Обычный пользователь, который, поверив в логично звучащую чушь нейросети, разносит ее, причиняет тем самым вред себе и окружающим. Робот в руках дурака — тоже дурак. Но вообще-то любой, даже самый умный из нас, может однажды поверить эху человеческого разума, собранного не только в научных статьях или философских трактатах, но и на форумах плоскоземельщиков.
Оставить комментарий/отзыв