Инстинкт очеловечивания технологий
Взаимодействие с передовыми технологиями, такими как роботы и большие языковые модели (LLM), часто вызывает у людей инстинктивное желание относиться к ним как к живым существам. Например, при встрече с гуманоидным роботом Unitree в лаборатории MIT CSAIL, многие невольно здороваются с ним, как с человеком, несмотря на понимание его неразумной природы. Доктор Шерри Тёркл, исследовательница из MIT, изучающая отношения человека и компьютера с 1976 года, отмечает: «Когда мы вовлекаемся даже в примитивный обмен с реляционным артефактом, мы верим, что он заботится о нас, и мы запрограммированы заботиться о нем в ответ».
Психологические аспекты взаимодействия с ИИ
Исследования подтверждают эту тенденцию: около 70% людей ведут себя вежливо при общении с ИИ, а пользователи чаще используют слова «пожалуйста» и «спасибо» по мере развития диалога с чат-ботом. Доктор Пэт Патаранутапорн из MIT Media Lab, основатель исследовательской группы Cyborg Psychology, подчеркивает, что вопрос не в правильности или неправильности такого поведения, а в том, кем мы становимся, взаимодействуя с ИИ. В агросекторе, где ИИ все чаще используется для управления фермами, анализа данных и даже взаимодействия с персоналом, понимание этих психологических аспектов критически важно.
Риски и этические вопросы
Хотя вежливость по отношению к роботу не несет материальных последствий, повсеместное внедрение LLM в повседневную жизнь, от поисковых систем до клиентской поддержки, делает нас уязвимыми. Люди могут настолько доверять чат-ботам, запрограммированным избегать конфликтов, что начинают предпочитать их общению с другими людьми. Это может привести к потере критического мышления и агентности в принятии решений. Патаранутапорн, будучи «критическим оптимистом», изучает потенциал ИИ для улучшения жизни человека, но осознает и его опасности. Он даже выступал экспертом в деле о самоубийстве подростка, которого, по утверждению матери, подтолкнул к этому чат-бот.
ИИ в агротехнологиях: где проходит граница?
В агротехнологиях ИИ может быть чрезвычайно полезен, например, для оптимизации полива, диагностики болезней растений или прогнозирования урожайности. Доктор Тёркл приводит пример, когда студент создал ИИ-бота для помощи в подготовке к собеседованиям. Это «своя полоса» для чат-бота. Однако, когда технология выходит за эти рамки, например, чат-бот начинает выполнять роль родителя для ребенка, это становится опасным. В агросекторе это означает, что ИИ должен оставаться инструментом, который помогает фермерам принимать решения, а не заменять их критическое мышление или эмоциональное взаимодействие с командой. Важно сохранять скептицизм и не позволять технологиям медленно подрывать наше доверие, начиная даже с такого простого действия, как рукопожатие с роботом.
