Взаимодействия детей и роботов. Проблемы и перспективы

Многие роботы предназначены для выполнения самых разных задач, начиная c работы по дому и заканчивая выполнением сложных медицинских манипуляций. Но вместе с их растущим взаимодействием с людьми возникает проблема - это жестокое обращение с искусственными помощниками. Были громкие случаи подобных действий — например уничтожение Hitchbot, робота—автостопщика, который пересек Канаду без инцидентов, но встретил свою гибель в Филадельфии. Его уничтожение было приписано взрослым. Дети также имеют тенденцию к жесткому обращению с роботами. Подобные действия могут работать против нравственного развития ребенка, культивируя негативное поведение, а не добродетели, поэтому исследователи изучают не только причины такого поведения, но и его профилактику.

Например, на конференции весной 2018 года исследователи из Naver Labs, KAIST и Сеульского национального университета, которые находятся в Южной Корее, представили нового робота, предназначенного для того, чтобы снизить у детей стремление к жестокости. Шелли - роботизированная черепаха. Она загорается и делает ”счастливые" танцевальные движения своими конечностями, когда ее нежно гладят. Но если кто-то ударит робота слишком сильно, то он погрузится в спячку, поменяв свой цвет при этом став твердым

Создатели Шелли ожидают, что роботы, подобные ей, могут улучшить взаимодействие ребенка в различных социальных контекстах. Возможно, такие машины способны поощрять хорошее поведение и способствовать нравственному развитию подростающего поколения. Разработка роботов для детей - это новая область, и наряду с потенциальными преимуществами подобных технологий это также вызывает опасение по поводу привязанности ребенка к механизму, что может привести к тому, что через робота, его могут обманывать мошенники.

Эксперименты показывают, что дети могут извлечь пользу из взаимодействия с роботами, разработанными в качестве товарищей по играм или в качестве наставников в таких навыках, как чтение или письмо. Использование их в игровой форме поможет по новому взглянуть на это как на инструмент для образовательных и терапевтических целей. Например, одна группа исследователей из Федеральной политехнической школы Лозанны в Швейцарии и Лиссабонского университета в Португалии сконфигурировала программируемого гуманоидного робота, чтобы он функционировал как “плохой писатель” и помогал детям улучшать свой почерк, исправляя ошибки. Детям говорят, что робот должен общаться в письменной форме, чтобы успешно выполнить свою миссию, и поэтому требуется помощь ребенка для изображения хорошо сформированных букв. Обучая робота правильно писать, дети получают возможность улучшить свои навыки письма и дополнительную уверенность в себе.

Другие роботы, такие как Чарли и My Special Aflac Duck, предназначены для помощи детям в решении проблем со здоровьем. Каждый из них использует уникальный подход, чтобы помочь справиться с различными состояниями и лечением, включая одиночество и изоляцию, связанные с болезнью. Чарли был использован в лагере, чтобы помочь детям узнать об успешном самостоятельном преодолении последствий диабета типа 1 с помощью развивающих игр, похвалы и конструктивной обратной связи. Робоутка Aflac предназначена в первую очередь для развлечения и отвлечения детей, проходящих курс лечение рака. Дети могут притворяться, что обеспечивают уход или выполняют медицинские процедуры этому роботу.

Несмотря на предварительные доказательства того, что взаимодействие ребенка и робота в различных условиях может принести пользу, многие люди обеспокоены потенциальными проблемами, которые создают такие технологии, включая проблемы личной жизни. Например, описанный выше My Special Aflac Duck предназначен для утешения детей, которые находятся в больнице. Но у ребенка может развиться сильная привязанность к механизму и если с ним что-то случится (сломается), или ребенок выписывается из больницы, это может очень сильно отразиться на психологическом состоянии. Связанная с этим проблема заключается в том, что дети могут отдавать предпочтение взаимодействию с роботом, а не со своими родителями, людьми, ухаживающими за ними, или сверстниками, и поэтому такие дети могут стать социально изолированными. Дополнительная проблема заключается в том, что родители и взрослые воспитатели сами могут стать чрезмерно зависимыми от роботов и не смогут обеспечить необходимый уровень ухода и комфорта для ребенка.

Роботы, предназначенные для медицинских учреждений, пока не представляют проблем в отношении конфиденциальности маленьких пациентов, возможно, потому что их настройки приватности подчиняются более жестким правилам или потому что они являются непривлекательными целями для хакеров или рекламодателей. Однако некоторые роботизированные игрушки, обычно встречающиеся в домах, вызывают озабоченность по поводу сохранности личных данных, включая куклу Mattel Hello Barbie и Genesis My Friend Cayla. Эти игрушки изначально были предназначены для доступа в интернет, чтобы отвечать на вопросы ребенка. Однако эта способность также создает потенциал для сбора и передачи личной информации по домашней беспроводной сети для компании-производителя или другим организациям, включая правоохранительные органы.

В случае с Hello Barbie эта информация была передана ToyTalk, фирме, которая анализирует данные, собранные игрушкой, чтобы поддерживать, развивать, тестировать или улучшать свои технологии распознавания речи и её обработки, но многие родители по-прежнему обеспокоены тем, как ToyTalk может использовать эту информацию. Данная игрушка имеет индикатор, который позволяет пользователям узнать, когда происходит запись информации. Отсутствие четких правил, связанных со сбором, хранением и использованием данных, оставляет открытой дверь для неадекватной защиты конфиденциальности. Компании, которые намеренно продают данные третьим лицам, являются очевидной проблемой.

Многие заинтересованные стороны также предупреждали о потенциальном негативном эмоциональном воздействии на детей, взаимодействующих с электронными помощниками. Специалисты по этике роботов, такие как Аманда и Ноэль Шарки из Шеффилдского университета в Англии определили обман, эмоциональные привязанности, изоляцию и потерю личной жизни как ключевые проблемы, возникающие в результате взаимодействия ребенка и механизма. Однако неясно, являются ли эти проблемы уникальными для взаимодействия детей с роботами или же те же проблемы возникают, когда дети взаимодействуют с людьми. Также неясно, приводит ли взаимодействие ребенка и робота к большей изоляции, чем просмотр телевизора или видеоигры.

Изоляция, привязанность и обман

В предыдущих исследованиях по использованию роботов для помощи в уходе за пожилыми людьми, ученые подчеркивали, что они должны усиливать взаимодействие между людьми, а не заменять его. Проектирование роботов в качестве помощников, а не замены живых людей снижает риск того, что взаимодействие человека и механизма приведет к изоляции первого.

Например, хотя некоторые критики выражают возмущение возможностью оставить ребенка наедине с роботом-компаньоном, они часто упускают из виду, что поведение родителей, которые эмоционально незрелы или одержимы своими беспроводными устройствами, также может способствовать возникновению у детей чувства изоляции или незащищенности. Присутствие механизма, особенно такого, который, по-видимому, уделяет ребенку свое безраздельное внимание, может смягчить негативные последствия проблемного поведения взрослых на эмоциональное благополучие детей.

Обман широко распространен среди людей, особенно в отношениях между взрослыми и детьми. Например, многие родители увековечивают миф о Санта-Клаусе или заявляют, что каракули на листке бумаги которые нарисовал их ребенок это произведение искусства. Остается открытым вопрос: "Является ли эмоциональная привязанность к роботам более пагубной, чем к человеку?" Хотя нет ничего плохого в том, что у ребенка формируется привязанность к устройству, и она не хуже чем привязанность к другим физическим объектам, таким как игрушки. Однако эта связь может быть использована компаниями-производителями для извлечения личной информации от ребенка, или побуждать их покупать другие продукты фирмы, и манипулировать каким-либо другим способом.

Исследователи, создавшие робота "Плохой писатель", сообщили, что после исследования один ребенок написал тому письмо, спрашивая, как продвигается его миссия. Этот пример говорит о том, что у ребенка сформировалась достаточная привязанность к механизму.

Сама привязанность обычно не вызывает проблем, все дело в людях и компаниях, которые будут эксплуатировать её. Например, если фирма использует встроенное ПО для сбора информации о ребенке, то тому будет попадаться реклама соответствующая его вкусам. И если такой маркетинг окажется эффективным, то его будут использовать и дальше.

Однажды дети уже были обмануты “дружественным мошенничеством" Facebook. Потратив сотни долларов без разрешения родителей на покупки в приложении во время игры. Точно так же робот может убедить ребенка потратить деньги на обновление его ПО или на какой-то другой продукт, который может показаться забавным.

Использование и хранение данных

Взаимодействия ребенка и робота вызывает вопросы о том, какую информацию роботы должны собирать? Как эта информация должна использоваться и кем? Робот, предназначенный для того, чтобы помочь детям развить навыки, должен уметь определить, где у них возникли трудности и как тот может помочь их решить.

Существует некоторая озабоченность по поводу того, должна ли эта информация храниться только локально в устройстве или загружаться в облако, принадлежащее производителю. Собранные данные потенциально могут помочь создателям технологии в поддержании, обнаружении проблем и совершенствовании робота.

Хотя это и законные причины для сбора и использования информации, среди таких данных будет и личная информация. Без согласия человека использование и передача такой информации нарушает частную жизнь. Те, с кем ребенок живет и взаимодействует (например, родители, сверстники и т.д.), также рискуют непреднамеренно поделиться личными данными.

В идеале те, кто собирает данные, были бы хорошими распространителями информации, используя ее для улучшения технологии. Но можно представить фирму, продающую данные другим компаниям, заинтересованным в разработке или маркетинге новых продуктов. Продажа информации, скорее всего, нарушит конфиденциальность пользователей, и использование третьей стороной может нанести вред. Однако наряду с потенциальным ущербом, сбор личной информации также способен защитить детей. Например, если ребенок разговаривает с роботом, таким как Hello Barbie, на тему жестокого обращения, то он может уведомить родителя, опекуна или социального работника. Разработка устройства, которое сможет правильно отфильтровать информацию, о том, что следует передать родителям или другому доверенному лицу, является сложной задачей.

Проблемы с распознаванием лиц

В дополнение к реагированию (и сбору данных о том, что говорят дети и как они себя ведут), некоторые роботы теперь имеют технологию распознавания лиц, которая вводит новые проблемы. Например, в некоторых дошкольных учреждениях по всему Китаю роботы используют эту технологию для анализа того, может ли ребенок быть зараженным инфекционным заболеванием, таким как конъюнктивит, и тот должен быть отправлен домой. Использование такой технологии в дошкольных учреждениях вызывает опасения по поводу возможных ошибочных диагнозов, которые могут привести к тому, что дети будут отправлены домой без необходимости, что нарушит рабочий день и график работы родителей.

Проектирование роботов, настоящее и будущее

Хотя потенциальные проблемы взаимодействия ребенка и робота должны быть признаны, важно не упускать из виду многочисленные способы, которыми дети могут извлечь выгоду из своего взаимодействия с механизмами в различных условиях, таких как здравоохранение, обучение или игры. Вопрос о том, поспособствует ли это взаимодействие долгосрочному благополучию детей, находится в руках дизайнеров, производителей, дистрибьюторов и других взрослых лиц, принимающих решения. На них лежит бремя того, чтобы эта дружба не подавляла развитие детей и не ограничивало их будущие возможности и чтобы любая частная информация о ребенке, собранная в ходе этих взаимодействий, использовалась только на благо.

Оригинальная статья