Скачать документ:

 

Резолюция Европейского парламента от 16 февраля 2017 года с рекомендациями Комиссии по правилам гражданского права о робототехнике (2015/2103 (INL))

 

процесс развития роботов

Европейский парламент

  • принимая во внимание статью 225 Договора о функционировании Европейского союза,
  • принимая во внимание Директиву Европейского Совета 85/374 / EEC (1) ,
  • принимая во внимание исследование по этическим аспектам киберфизических систем, проведенное от имени Группы экспертов по оценке технологий в области науки и техники (STOA) и управляемое Исследовательской группой по научным форсайтам (STOA), Европейской парламентской исследовательской службой;
  • принимая во внимание нормы 46 и 52 Правил Парламентской процедуры,
  • с учетом доклада Комитета по юридическим вопросам и мнений Комитета по транспорту и туризму, Комитета по гражданским свободам, правосудию и внутренним делам, Комитета по вопросам занятости и социальных вопросов, Комитета по окружающей среде, общественному здравоохранению и безопасности пищевых продуктов, Комитета по промышленности, исследованиям и энергетике и Комитета по внутреннему рынку и защите прав потребителей ( A8-0005 / 2017 )

Введение

А. учитывая существование таких литературных образов, как монстры, представленные в  романе Мэри Шелли "Франкенштейн", классическом мифе о Пигмалионе, Пражских легендах о Големе, и, наконец, робота Карела Чапека, придумавшего это слово, можно утверждать, что люди мечтали о возможности создания наделённых интеллектом машин с антропоморфными свойствами;

B. учитывая, что в настоящее время человечество стоит на пороге эры зарождения высокотехнологичных роботов, ботов, андроидов и других разновидностей искусственного интеллекта («AI»), что является началом новой индустриальной революции, которая, вероятно, изменит всё человечество, законодательной власти крайне важно, учитывая юридические и этические последствия, не подавлять развитие инноваций;

C. учитывая, что в настоящее время возникла необходимость в создании общепринятых понятий "робот" и "искусственный интеллект", которые являлись бы универсальными и не препятствовали развитию инноваций;

D. учитывая, что за период с 2010 по 2014 год уровень годовой продаж роботов повысился на 17%, а в 2014 году продажи выросли на 29%, что стало рекордным и превысило годовые показатели поставщиков автомобильных запчастей и электротехнической промышленности, а количество ежегодных заявок для получения патентов на технологии робототехники за последние десять лет утроились;

E. учитывая, что за последние 200 лет в связи с технологическим прогрессом показатели занятости населения постоянно увеличиваются, предположительно развитие робототехники и искусственного интеллекта в перспективе преобразит жизнь человека и его труд, повысив производительность, безопасность, экономичность и качество; уже в ближайшее время робототехника и искусственный интеллект увеличат эффективность и сократят расходы не только в отраслях производства и торговли, но и в таких сферах, как транспорт, медицинское обслуживание, спасательные операции, образование и сельское хозяйство, позволят без привлечения человека выполнять работы в опасных для жизни и здоровья условиях, например, при очистке токсично загрязненных участков;

F. учитывая, что с улучшением условий жизни и благодаря достижениям современной медицины увеличивается продолжительность жизни людей и, как результат, количество стареющего населения, что является для Европы одной из самых острых политических, социальных и экономических проблем XXI века; так к 2025 году более 20% европейцев достигнут 65 и более лет, причем особо стремительно увеличиться число людей в возрасте 80 лет и старше, что приведет к изменению балансу между поколениями в нашем обществе, которое заинтересовано, чтобы пожилые люди оставались здоровыми и активными как можно дольше;

G. учитывая, что в долгосрочной перспективе существующая тенденция развития умных и автономных машин, обладающих способностью обучать и принимать решения самостоятельно, принесёт  не только экономические преимуществами, но и ряд вопросов, связанных с их прямым и косвенным воздействием на общество в целом;

H. учитывая, что способность машин обучаться даст обществу огромные экономические и инновационные преимущества, а также повысит способность анализировать информацию; в то же время повлечет трудности в части обеспечении недискриминации, соблюдения надлежащих правил, прозрачности и понимания процессов принятия решений;

I. учитывая, что экономическим изменениям и влиянию на занятость населения в результате робототехники и обучения машин необходимо давать оценку, поскольку не смотря на неоспоримые преимущества, которые дает робототехника, ее внедрение может повлечь за собой трансформацию рынка труда и необходимость внесения соответствующих изменений в систему образования, трудоустройства и социальной политики;

J. учитывая, что популяризация роботов не должна приводить к полной замене ими рабочих мест, однако низкоквалифицированные и трудоёмкие рабочие процессы, являясь более уязвимыми, подвергнутся автоматизации, что поможет вернуть производственные процессы в ЕС. Как показывают исследования, занятость населения растёт значительней в сферах, применяющих компьютерные технологии, а автоматизация рабочих мест освободит людей от ручного монотонного труда, что позволяет им заниматься более творческими и значимыми задачами. В то же время автоматизация производства требует от правительства инвестиций в систему образования и проведение других реформ, позволяющих адаптировать навыки работников потребностям будущего;

K. учитывая, что в условиях роста общественных разногласий и сокращения среднего класса, развитие робототехники может сконцентрировать богатства и власть в руках у малой группы людей;

L. учитывая, что развитие робототехники и искусственного интеллекта определенно повлияет на рабочие процессы, что устранит некоторые проблемы, но и создаст новые. Поэтому на случай возникновения чрезвычайных ситуаций или каких-либо проблем, должна быть определена правовая ответственность как для работодателей, так и для работников;

M. учитывая, что тенденция автоматизации рабочих процессов требует от лиц, участвующих в разработке и коммерциализации искусственного интеллекта, в первую очередь обеспечивать безопасность и этику, следовательно они должны быть готовы нести юридическую ответственность за качество производимых ими технологий;

N. учитывая, что Регламент (ЕС) 2016/679 Европейского парламента и Совета ЕС (2) (Общее положение о защите данных) устанавливает правовую основу для защиты персональных данных, следовательно дальнейшие вопросы о доступе к данным, защите персональных данных и конфиденциальности могут нуждаться в урегулировании, поскольку проблемы конфиденциальности могут по-прежнему возникать из-за того, что приложения и устройства будут самостоятельно без вмешательства человека общаются друг с другом и иметь доступ к базами данных;

О. учитывая, что развитие робототехники и искусственного интеллекта может и должно быть спроектировано таким образом, чтобы сохранялось достоинство, автономия и самоопределение личности, в первую очередь сферах ухода за людьми, общения и медицинских технологий, восстанавливающих и усовершенствующих человека;

P. учитывая, что в конечном итоге существует вероятность того, что в долгосрочной перспективе искусственный интеллект может превзойти интеллектуальную способность человека;

Q. учитывая, что дальнейшее развитие и более широкое использование автоматизированного и алгоритмического принятия решений, несомненно, влияет на выбор, который принимает частное лицо (например, предприниматель или интернет-пользователь), а также административный, судебный или другой государственный орган, принимающий окончательное решение о защите потребителя, деловой или авторитетный характер; тогда как гарантии и возможность контроля и проверки человека должны быть встроены в процесс автоматизированного и алгоритмического принятия решений;

R. В то время как несколько иностранных юрисдикций, таких как США, Япония, Китай и Южная Корея, рассматривают и в определенной степени уже предпринимают меры регулирования в отношении робототехники и ИИ, а некоторые государства-члены также начали отражать по возможности составлению правовых норм или проведению законодательных изменений с целью учета новых применений таких технологий;

S. В то время как европейская промышленность могла бы использовать эффективный, последовательный и прозрачный подход к регулированию на уровне Союза, обеспечивая предсказуемые и достаточно четкие условия, при которых предприятия могли бы разрабатывать приложения и планировать свои бизнес-модели в европейском масштабе, обеспечивая при этом, что Союз и его Государства-члены сохраняют контроль над нормативными стандартами, которые должны быть установлены, чтобы их не принуждали к принятию и соблюдению стандартов, установленных другими, то есть третьи страны, которые также находятся на переднем крае развития робототехники и ИИ;

Общие принципы

Т., в то время как законы Азимова (3) следует рассматривать как направленные на проектировщиков, производителей и операторов роботов, в том числе роботов со встроенной автономией и самообучением, поскольку эти законы не могут быть преобразованы в машинный код;

U. в то время как ряд правил, регулирующих, в частности, ответственность, прозрачность и подотчетность, полезны, отражающие по существу европейские и универсальные гуманистические ценности, которые характеризуют вклад Европы в общество, необходимы; тогда как эти правила не должны влиять на процесс исследований, инноваций и развития в робототехнике;

V. В то время как Союз мог бы сыграть важную роль в установлении основополагающих этических принципов, которые должны соблюдаться при разработке, программировании и использовании роботов и ИИ, а также в включении таких принципов в правила и кодексы поведения Союза с целью формирования технологическую революцию, чтобы она служила человечеству и чтобы преимущества передовой робототехники и ИИ были широко разделены, а, по возможности, избегать потенциальных ловушек;

W. Принимая во внимание, что к настоящей резолюции прилагается Хартия о робототехнике, разработанная при содействии Исследовательской группы по научным исследованиям (STOA), Европейской парламентской исследовательской службы, которая предлагает кодекс этического поведения инженеров-роботов, код для комитетов по этике исследований, «лицензия» для дизайнеров и «лицензия» для пользователей;

X. в то время как для Союза следует применять постепенный, прагматичный и осторожный подход типа, предложенный Жаном Монне (4), в отношении будущих инициатив в области робототехники и ИИ, с тем чтобы мы не задушили инновации;

Y. тогда как с учетом этапа, достигнутого в развитии робототехники и ИИ, целесообразно начать с вопросов гражданской ответственности;

ответственность

Z. В то время как благодаря впечатляющим технологическим достижениям последнего десятилетия не только современные роботы способны выполнять деятельность, которая обычно была типичной и исключительно человеческой, но и развитие определенных автономных и когнитивных функций - например, способность учиться на опыте и принимать квазинезависимые решения - делает их все более похожими на агентов, которые взаимодействуют со своей средой и могут значительно изменить ее; тогда как в таком контексте юридическая ответственность, возникающая в результате вредных действий робота, становится решающей проблемой;

AA. тогда как автономию робота можно определить как способность принимать решения и реализовывать их во внешнем мире независимо от внешнего контроля или влияния; тогда как эта автономия носит чисто технологический характер, и ее степень зависит от того, насколько сложным было взаимодействие робота с окружающей средой;

AB. в то время как чем больше автономных роботов, тем меньше они могут считаться простыми инструментами в руках других участников (таких как производитель, оператор, владелец, пользователь и т. д.); в то время как это, в свою очередь, задает вопрос о том, достаточны ли обычные правила ответственности или требует ли он новых принципов и правил для ясности в отношении юридической ответственности различных участников в отношении ответственности за действия и бездействие роботов, в которых причина не может быть прослежена конкретному человеческому актору и можно ли избежать действий или бездействия роботов, причинивших вред;

AC. тогда как, в конечном счете, автономия роботов ставит вопрос о своем характере в свете существующих правовых категорий или должна ли создаваться новая категория с ее собственными специфическими особенностями и последствиями;

ОБЪЯВЛЕНИЕ. тогда как в соответствии с действующими правовыми рамками роботы не могут быть привлечены к ответственности как за действия, так и за упущения, которые причиняют ущерб третьим лицам; в то время как существующие правила об ответственности охватывают случаи, когда причина действия или бездействия робота может быть отнесена к конкретному человеческому агенту, такому как производитель, оператор, владелец или пользователь и где этот агент мог предусмотреть и избежать использования робота вредное поведение; в то время как, кроме того, производители, операторы, владельцы или пользователи могут нести строгую ответственность за действия или бездействие робота;

AE. тогда как в соответствии с действующей правовой базой ответственности за продукцию - когда производитель продукта несет ответственность за неисправность и правила, регулирующие ответственность за вредные действия, - когда пользователь продукта несет ответственность за поведение, которое приводит к нанесению ущерба убыткам вызванные роботами или ИИ;

AF. тогда как в сценарии, когда робот может принимать автономные решения, традиционных правил не будет достаточно, чтобы вызвать юридическую ответственность за ущерб, причиненный роботом, поскольку они не позволят определить сторону, ответственную за предоставление компенсации, и потребовать, чтобы чтобы сделать ущерб, нанесенный им;

AG. в то время как недостатки нынешней правовой базы также проявляются в области контрактной ответственности, поскольку машины, предназначенные для выбора своих коллег, обсуждают договорные условия, заключают контракты и решают, следует ли и как их реализовать, сделать традиционные правила неприменимыми; в то время как это подчеркивает необходимость новых, эффективных и современных, которые должны соответствовать технологическим разработкам и нововведениям, которые недавно возникли и используются на рынке;

AH. тогда как в отношении неконтрактной ответственности Директива 85/374 / EEC может покрывать только ущерб, причиненный производственными дефектами робота, и при условии, что потерпевший может доказать фактический ущерб, дефект продукта и причинную связь между повреждение и дефект, поэтому строгая ответственность или ответственность без рамки отказа могут быть недостаточными;

AI. в то время как, несмотря на сферу действия Директивы 85/374 / EEC, нынешняя правовая основа не будет достаточной для покрытия ущерба, причиненного новым поколением роботов, поскольку они могут быть оснащены адаптивными и обучающими способностями, что влечет за собой определенную непредсказуемость в своем поведении, поскольку эти роботы будут автономно учиться на собственном переменном опыте и взаимодействовать с окружающей средой уникальным и непредсказуемым образом;

Общие принципы, касающиеся развития робототехники и искусственного интеллекта для гражданского использования

1. призывает Комиссию предлагать общие определения объединений киберфизических систем, автономных систем, интеллектуальных автономных роботов и их подкатегорий, принимая во внимание следующие характеристики интеллектуального робота:

- приобретение автономии с помощью датчиков и / или обмен данными с окружающей средой (взаимосвязь), а также торговля и анализ этих данных;
- самообучение из опыта и взаимодействия (необязательный критерий);
- по крайней мере, небольшая физическая поддержка;
- адаптация его поведения и действий к окружающей среде;
- отсутствие жизни в биологическом смысле;

2. считает, что на внутреннем рынке Союза должна быть внедрена комплексная система регистрации передовых роботов, где это необходимо и необходимо для конкретных категорий роботов, и призывает Комиссию установить критерии классификации роботов, которые необходимо будет зарегистрировать ; в этом контексте призывает Комиссию расследовать вопрос о том, было бы желательно, чтобы система регистрации и регистр управлялась назначенным агентством ЕС по робототехнике и искусственному интеллекту;

3. подчеркивает, что развитие робототехнической технологии должно быть сосредоточено на дополнении человеческих возможностей, а не на их замене; считает необходимым в развитии робототехники и ИИ гарантировать, что люди всегда будут контролировать интеллектуальные машины; считает, что особое внимание следует уделить возможному развитию эмоциональной связи между людьми и роботами, особенно в уязвимых группах (дети, пожилые люди и люди с ограниченными возможностями), и подчеркивает проблемы, вызванные серьезным эмоциональным или физическим воздействием, которое этот эмоциональный привязанность может иметь людей;

4. подчеркивает, что подход на уровне отдельных стран может способствовать развитию, избегая фрагментации на внутреннем рынке и в то же время подчеркивает важность принципа взаимного признания при трансграничном использовании роботов и роботизированных систем; напоминает, что тестирование, сертификация и утверждение рынка должны требоваться только в одном государстве-члене; подчеркивает, что этот подход должен сопровождаться эффективным наблюдением за рынком;

5. подчеркивает важность мер по оказанию помощи малым и средним предприятиям и стартапам в секторе робототехники, которые создают новые сегменты рынка в этом секторе или используют роботов;

Исследования и инновации

6. Подчеркивает, что многие роботизированные приложения все еще находятся в экспериментальной фазе; приветствует тот факт, что все больше исследовательских проектов финансируются государствами-членами и Союзом; считает необходимым, чтобы Союз вместе с государствами-членами в силу государственного финансирования оставался лидером в исследованиях в области робототехники и ИИ; призывает Комиссию и государства-члены укреплять финансовые инструменты для исследовательских проектов в области робототехники и ИКТ, включая партнерские отношения между государственным и частным секторами, и осуществлять в своей исследовательской политике принципы открытой науки и ответственных этических инноваций; подчеркивает, что достаточные ресурсы должны быть направлены на поиск решений социальных, этических, правовых и экономических проблем, которые поднимают технологическое развитие и его приложения;

7. призывает Комиссию и государства-члены поощрять исследовательские программы, стимулировать исследования возможных долгосрочных рисков и возможностей робототехники и технологий ИИ, а также поощрять проведение структурированного общественного диалога о последствиях развития этих технологий как как можно скорее; призывает Комиссию увеличить свою поддержку в среднесрочном обзоре Многолетних финансовых рамок для программы SPARC, финансируемой Horizon 2020; призывает Комиссию и государства-члены объединить свои усилия для тщательного контроля и обеспечения более плавного перехода этих технологий от исследований к коммерциализации и использования на рынке после соответствующих оценок безопасности в соответствии с принципом предосторожности;

8. подчеркивает, что инновации в области робототехники и ИИ и интеграция робототехники и технологий ИИ в экономике и обществе требуют цифровой инфраструктуры, обеспечивающей повсеместную связь; призывает Комиссию установить рамки, которые будут соответствовать требованиям к подключению для цифрового будущего Союза и обеспечить, чтобы доступ к широкополосным сетям и сетям 5G полностью соответствовал принципу сетевого нейтралитета;

9. решительно полагает, что взаимодействие между системами, устройствами и облачными службами, основанное на безопасности и конфиденциальности при разработке, имеет важное значение для потоков данных в реальном времени, что позволяет роботам и ИИ стать более гибкими и автономными; просит Комиссию поощрять открытую среду, от открытых стандартов и инновационных моделей лицензирования, открывать платформы и прозрачность, с тем чтобы избежать блокировки в проприетарных системах, которые ограничивают взаимодействие;

Этические принципы

10. отмечает, что потенциал расширения прав и возможностей посредством использования робототехники обусловлен набором напряженности или рисков и должен быть серьезно оценен с точки зрения безопасности, здоровья и безопасности человека; свобода, неприкосновенность частной жизни, добросовестность и достоинство; самоопределение и недискриминация, а также защита персональных данных;

11. считает, что существующую правовую базу Союза следует обновлять и дополнять, когда это необходимо, путем установления этических принципов в соответствии со сложностью робототехники и ее многочисленных социальных, медицинских и биоэтических последствий; считает, что для дополнения правовых рекомендаций доклада и существующих национальных и союзных acquis необходима четкая, строгая и эффективная руководящая этическая основа для разработки, проектирования, производства, использования и модификации роботов ; предлагает в приложении к резолюции рамочную форму в виде устава, состоящего из кодекса поведения инженеров-роботов, кода для комитетов по этике исследований при рассмотрении протоколов робототехники и типовых лицензий для дизайнеров и пользователей;

12. подчеркивает принцип транспарентности, а именно, что всегда должно быть возможным обосновать любое решение, принятое с помощью ИИ, которое может оказать существенное влияние на жизнь одного или нескольких лиц; считает, что всегда должно быть возможным сократить расчеты системы ИИ до формы, понятной людям; считает, что продвинутые роботы должны быть оснащены «черным ящиком», который записывает данные о каждой транзакции, выполняемой машиной, включая логику, которая способствовала его решениям;

13. Указывает, что руководящая этическая основа должна основываться на принципах благоденствия, невмешательства, автономии и справедливости на принципах и ценностях, закрепленных в статье 2 Договора о Европейском союзе и в Хартии основных прав, таких как как человеческое достоинство, равенство, справедливость и справедливость, недискриминация, информированное согласие, частная и семейная жизнь и защита данных, а также другие основополагающие принципы и ценности закона Союза, такие как не стигматизация, прозрачность, автономия, индивидуальные ответственности и социальной ответственности, а также от существующих этических норм и кодексов;

14. считает, что особое внимание следует уделять роботам, которые представляют собой серьезную угрозу конфиденциальности в связи с их размещением в традиционно защищенной и частной сферах и потому, что они могут извлекать и отправлять личные и конфиденциальные данные;

Европейское агентство

15. считает, что расширение сотрудничества между государствами-членами и Комиссией необходимо для обеспечения согласованных трансграничных правил в Союзе, которые поощряют сотрудничество между европейскими отраслями и позволяют развертывание во всем Союзе роботов, которые согласуются с требуемыми уровни безопасности и охраны, а также этические принципы, закрепленные в законе Союза;

16. просит Комиссию рассмотреть вопрос о назначении Европейского агентства по робототехнике и искусственному интеллекту с целью предоставления технических, этических и нормативных знаний, необходимых для поддержки соответствующих государственных субъектов как на уровне Союза, так и на уровне государств-членов в их усилиях по обеспечению своевременный, этичный и хорошо информированный ответ на новые возможности и проблемы, в частности проблемы трансграничного характера, связанные с технологическими достижениями в области робототехники, такими как транспортный сектор;

17. Считает, что потенциал и проблемы, связанные с использованием робототехники, и нынешняя динамика инвестиций оправдывают предоставление Европейскому агентству надлежащего бюджета и укомплектование его органами регулирования и внешними техническими и этическими экспертами, посвященными межсекторальному и междисциплинарному мониторингу робототехники основанные на знаниях, определения стандартов для передовой практики и, при необходимости, рекомендации мер регулирования, определения новых принципов и решения проблем защиты потребителей и систематических проблем; просит Комиссию (и Европейское агентство, если она создана) представить в Европейский парламент доклад о последних событиях в области робототехники и о любых действиях, которые необходимо принять на ежегодной основе;

Права интеллектуальной собственности и поток данных

18. отмечает, что нет никаких правовых положений, которые конкретно применяются к робототехнике, но что существующие правовые режимы и доктрины могут быть легко применены к робототехнике, хотя некоторые аспекты, как представляется, требуют специального рассмотрения; призывает Комиссию поддержать горизонтальный и технологически нейтральный подход к интеллектуальной собственности, применимый к различным секторам, в которых можно использовать робототехнику;

19. призывает Комиссию и государства-члены обеспечить, чтобы положения гражданского права в секторе робототехники соответствовали Общему регламенту защиты данных и соответствовали принципам необходимости и пропорциональности; призывает Комиссию и государства-члены учитывать быстрые технологические изменения в области робототехники, включая развитие киберфизических систем, и обеспечить, чтобы закон Союза не оставался за кривой технологического развития и развертывания;

20. подчеркивает, что право на уважение частной жизни и защиту персональных данных, закрепленное в статьях 7 и 8 Устава и в статье 16 Договора о функционировании Европейского союза (TFEU), распространяется на все сферы робототехники и что правовые рамки Союза для защиты данных должны быть полностью соблюдены; просит в этой связи разъяснить в рамках реализации GDPR правила и критерии, касающиеся использования камер и датчиков в роботах; призывает Комиссию обеспечить, чтобы принципы защиты данных, такие как конфиденциальность по дизайну и конфиденциальности по умолчанию, минимизация данных, ограничение цели,

21. подчеркивает, что свободное перемещение данных имеет первостепенное значение для цифровой экономики и развития в области робототехники и ИИ; подчеркивает, что высокий уровень безопасности в робототехнических системах, включая их внутренние системы данных и потоки данных, имеет решающее значение для надлежащего использования роботов и ИИ; подчеркивает, что защита сетей взаимосвязанных роботов и ИИ должна быть обеспечена для предотвращения возможных нарушений безопасности; подчеркивает, что высокий уровень безопасности и защиты персональных данных вместе с должным учетом конфиденциальности в общении между людьми, роботами и ИИ являются фундаментальными; подчеркивает ответственность разработчиков робототехники и ИИ за разработку продуктов, которые должны быть безопасными, безопасными и пригодными для цели; призывает Комиссию и государства-члены поддержать и стимулировать разработку необходимой технологии,

Стандартизация, безопасность и безопасность

22. Основные моменты, что проблема установления стандартов и обеспечения совместимости является ключевой для будущей конкуренции в области технологий ИИ и робототехники; призывает Комиссию продолжать работу по международному согласованию технических стандартов, в частности совместно с Европейскими организациями по стандартизации и Международной организацией по стандартизации, в целях содействия инновациям, во избежание фрагментации внутреннего рынка и обеспечения высокого уровня безопасности продуктов и защиты потребителей, включая, где это необходимо, минимальные стандарты безопасности в рабочей среде; подчеркивает важность законной обратной инженерии и открытых стандартов, чтобы максимизировать ценность инноваций и обеспечивать, чтобы роботы могли общаться друг с другом; приветствует в этом отношении,

23. Подчеркивает, что испытания роботов в реальных сценариях необходимы для идентификации и оценки рисков, которые они могут повлечь за собой, а также их технологического развития за пределами чистой экспериментальной лабораторной фазы; подчеркивает в этой связи, что тестирование роботов в реальных сценариях, особенно в городах и на дорогах, вызывает большое количество проблем, включая барьеры, которые замедляют развитие этих этапов тестирования и требуют эффективной стратегии и механизма мониторинга ; призывает Комиссию разработать единые критерии для всех государств-членов, которые должны использовать отдельные государства-члены для выявления областей, где допускаются эксперименты с роботами, в соответствии с принципом предосторожности;

Автономные транспортные средства

a) Автономные транспортные средства

24. подчеркивает, что автономный транспорт охватывает все виды дистанционно управляемых, автоматизированных, связанных и автономных способов автомобильного, железнодорожного, водного и воздушного транспорта, включая транспортные средства, поезда, суда, паромы, самолеты, беспилотные летательные аппараты, а также все будущие формы развития и инновации в этом секторе;

25. считает, что автомобильный сектор наиболее остро нуждается в эффективных союзных и глобальных правилах для обеспечения трансграничного развития автоматизированных и автономных транспортных средств, с тем чтобы полностью использовать свой экономический потенциал и извлечь выгоду из положительного влияния технологических тенденций; подчеркивает, что фрагментированные подходы к регулированию будут препятствовать внедрению автономных транспортных систем и поставить под угрозу европейскую конкурентоспособность;

26. обращает внимание на тот факт, что время реакции водителя в случае незапланированного захвата контроля над транспортным средством имеет жизненно важное значение и поэтому призывает заинтересованные стороны обеспечить реалистичные ценности, определяющие вопросы безопасности и ответственности;

27. считает, что переход на автономные транспортные средства повлияет на следующие аспекты: гражданская ответственность (ответственность и страхование), безопасность дорожного движения, все темы, связанные с окружающей средой (например, энергоэффективность, использование возобновляемых технологий и источников энергии), вопросы, связанные с данными (например, доступ к данным, защита данных, конфиденциальность и совместное использование данных), вопросы, связанные с инфраструктурой ИКТ (например, высокая плотность эффективной и надежной связи) и занятость (например, создание и потеря рабочих мест, подготовка тяжелых грузов водители транспортных средств для использования автоматизированных транспортных средств); подчеркивает, что потребуются значительные инвестиции в инфраструктуру дорог, энергетики и ИКТ; призывает Комиссию рассмотреть вышеупомянутые аспекты в своей работе по автономным транспортным средствам;

28. подчеркивает важное значение надежной информации о местоположении и времени, предоставляемой европейскими спутниковыми навигационными программами Galileo и EGNOS для внедрения автономных транспортных средств, настоятельно призывает в этой связи завершить разработку и запуск спутников, которые необходимы для завершения Европейская система позиционирования Galileo;

29. обращает внимание на высокую добавленную стоимость, предоставляемую автономными транспортными средствами для лиц с ограниченной подвижностью, поскольку такие транспортные средства позволяют им более эффективно участвовать в индивидуальном автомобильном транспорте и тем самым облегчать их повседневную жизнь;

  б) Дроны (RPAS)

30. признает положительные успехи в технологии беспилотных летательных аппаратов, особенно в области поиска и спасания; подчеркивает важность союзных рамок для беспилотных летательных аппаратов для защиты безопасности, безопасности и неприкосновенности частной жизни граждан Союза и призывает Комиссию следить за рекомендациями постановления парламента от 29 октября 2015 года о безопасном использовании удаленных пилотируемых самолетов системы (RPAS), широко известные как беспилотные летательные аппараты (БПЛА), в области гражданской авиации (5) ; настоятельно призывает Комиссию провести оценку вопросов безопасности, связанных с широким использованием беспилотных летательных аппаратов; призывает Комиссию изучить необходимость введения обязательной системы слежения и идентификации для РПАС, которая позволяет определять позиции самолета в режиме реального времени во время использования; напоминает, что однородность и безопасность беспилотных летательных аппаратов должны обеспечиваться мерами, изложенными в Постановлении (ЕС) № 216/2008 Европейского парламента и Совета (6) ;

Уход за роботами

31. Подчеркивает, что исследования и разработки роботов старшего возраста, со временем, стали более распространенными и более дешевыми, производя продукты с большей функциональностью и более широким принятием потребителей; отмечает широкий спектр применений таких технологий, обеспечивающих профилактику, помощь, мониторинг, стимуляцию и общение с пожилыми людьми и людьми с ограниченными возможностями, а также с людьми, страдающими деменцией, когнитивными расстройствами или потерей памяти;

32. Указывает, что человеческий контакт является одним из фундаментальных аспектов ухода за людьми; считает, что замена человеческого фактора роботами может привести к дегуманизации практики ухода, с другой стороны, признает, что роботы могут выполнять автоматизированные задачи по уходу и могут облегчить работу помощников по уходу, при одновременном повышении уровня обслуживания людей и обеспечении более целенаправленного процесса реабилитации, сотрудников и лиц, обеспечивающих уход, чтобы уделять больше времени диагностике и более плановым вариантам лечения; подчеркивает, что, несмотря на потенциал робототехники для повышения мобильности и интеграции людей с инвалидностью и пожилых людей, люди по-прежнему будут нуждаться в уходе и будут по-прежнему служить важным источником социального взаимодействия, которое не является полностью заменяемым;

Медицинские роботы

33. подчеркивает важность надлежащего образования, профессиональной подготовки и подготовки медицинских работников, таких как врачи и помощники по уходу, с тем чтобы обеспечить максимальную профессиональную компетентность, а также для защиты и защиты здоровья пациентов; подчеркивает необходимость определения минимальных профессиональных требований, которые должен выполнять хирург для того, чтобы работать и иметь возможность использовать хирургические роботы; считает жизненно важным соблюдение принципа контролируемой автономии роботов, при котором первоначальное планирование лечения и окончательное решение о его исполнении всегда будут оставаться у человека-хирурга; подчеркивает особую важность обучения пользователей, чтобы они могли ознакомиться с технологическими требованиями в этой области; обращает внимание на растущую тенденцию к самодиагностике с использованием мобильного робота и, следовательно, на необходимость подготовки врачей для работы с самодиагностированными случаями; считает, что использование таких технологий не должно уменьшать или наносить ущерб отношениям между врачом и пациентом, а должно предоставлять врачам помощь в диагностике и / или лечении пациентов с целью снижения риска человеческой ошибки и повышения качества жизни и жизни продолжительность;

34. Считает, что медицинские роботы продолжают проникать в обеспечение высокоточной хирургии и в проведении повторяющихся процедур и что они могут улучшить результаты реабилитации и обеспечить высокоэффективную материально-техническую поддержку в больницах; отмечает, что медицинские роботы могут также снизить расходы на здравоохранение, позволяя медицинским специалистам перенести свое внимание с лечения на профилактику и предоставив больше бюджетных ресурсов для лучшей адаптации к разнообразию потребностей пациентов, непрерывной подготовки медицинских работников и исследований;

35. призывает Комиссию обеспечить, чтобы процедуры для проверки новых медицинских роботизированных устройств были безопасными, особенно в случае устройств, имплантированных в организм человека, до даты, когда Правила (ЕС) 2017/745 на медицинские устройства становятся применимо;

Ремонт и улучшение человека

36. отмечает большие успехи, достигнутые и потенциальные возможности робототехники в области ремонта и компенсации поврежденных органов и функций человека, а также сложные вопросы, возникающие, в частности, возможностями человеческого улучшения, в качестве медицинских роботов и особенно киберфизических систем (CPS) могут изменить наши представления о здоровом человеческом теле, поскольку их можно носить непосредственно или имплантировать в организм человека; подчеркивает важность срочного создания в больницах и других медицинских учреждениях надлежащим образом укомплектованных комитетов по этике роботов, которым поручено рассмотреть и помочь в решении необычных, сложных этических проблем, связанных с проблемами, которые влияют на уход и лечение пациентов;

37. Необходимо указать, что для области жизненно важных медицинских применений, таких как роботизированные протезы, непрерывный, устойчивый доступ к обслуживанию, усовершенствованию и, в частности, обновления программного обеспечения, которые устраняют неисправности и уязвимости, должны быть обеспечены;

38. рекомендует создать независимые доверенные лица, чтобы сохранить средства, необходимые для оказания услуг лицам, перевозящим жизненно важные и современные медицинские приборы, такие как обслуживание, ремонт и усовершенствования, включая обновления программного обеспечения, особенно в тех случаях, когда такие услуги больше не выполняются оригинальным поставщиком; предлагает создать для производителей обязательство предоставлять этим независимым доверенным лицам комплексные инструкции по проектированию, включая исходный код, аналогичный законному размещению публикаций в национальной библиотеке;

39. Обращает внимание на риски, связанные с возможностью того, что CPS, интегрированные в человеческий организм, могут быть взломаны или отключены или утеряны их воспоминания, поскольку это может поставить под угрозу здоровье человека, а в крайних случаях даже человеческую жизнь, и поэтому подчеркивает приоритет которые должны быть прикреплены к защите таких систем;

40. подчеркивает важность обеспечения равного доступа для всех людей к таким технологическим нововведениям, инструментам и вмешательствам; призывает Комиссию и государства-члены содействовать развитию вспомогательных технологий в целях содействия разработке и внедрению этих технологий теми, кто в них нуждается, в соответствии со статьей 4 Конвенции ООН о правах инвалидов, членом которого является Союз;

Образование и занятость

41. обращает внимание на прогноз Комиссии о том, что к 2020 году в Европе может возникнуть нехватка до 825 000 специалистов в области ИКТ и что 90% рабочих мест потребуют по меньшей мере базовых цифровых навыков; приветствует инициативу Комиссии по предложению «дорожной карты» для возможного использования и пересмотра структуры цифровой компетентности и описателей цифровых компетенций для всех уровней учащихся и призывает Комиссию оказать существенную поддержку развитию цифровых способностей во всех возрастных группах и независимо от статуса занятости, в качестве первого шага к лучшему согласованию дефицита и спроса на рынке труда; подчеркивает, что рост робототехники требует от государств-членов разработки более гибких систем обучения и образования, с тем чтобы стратегии навыков соответствовали потребностям экономики роботов;

42. считает, что привлечение большего числа молодых женщин, заинтересованных в цифровой карьере, и привлечение большего числа женщин к цифровым рабочим местам принесет пользу цифровой индустрии, самим женщинам и экономике Европы; призывает Комиссию и государства-члены приступить к инициативам в целях поддержки женщин в области ИКТ и повышения их электронных навыков;

43. призывает Комиссию более внимательно приступить к анализу и мониторингу среднесрочных и долгосрочных тенденций в области занятости с уделением особого внимания созданию, перемещению и потере рабочих мест в различных областях / областях квалификации, с тем чтобы знать, в каких областях создаются рабочие места и те, в которых рабочие места теряются в результате более широкого использования роботов;

44. Подчеркивает важность предвидения изменений в обществе, учитывая тот эффект, который может иметь развитие и развертывание робототехники и ИИ; просит Комиссию проанализировать различные возможные сценарии и их последствия для жизнеспособности систем социального обеспечения государств-членов;

45. подчеркивает важность гибкости навыков и социальных, творческих и цифровых навыков в области образования; что в дополнение к школам, передающим академические знания, обучение на протяжении всей жизни должно быть достигнуто на протяжении всей жизни;

46. ​​Отмечает большой потенциал робототехники для повышения безопасности на рабочем месте путем передачи ряда опасных и вредных задач от людей к роботам, но в то же время отмечает их потенциал для создания набора новых рисков из-за растущего числа взаимодействия человека и робота на рабочем месте; подчеркивает в этой связи важность применения строгих и перспективных правил взаимодействия человека и робота в целях обеспечения здоровья, безопасности и уважения основных прав на рабочем месте;

Воздействие на окружающую среду

47. отмечает, что развитие робототехники и ИИ должно проводиться таким образом, чтобы воздействие на окружающую среду было ограничено за счет эффективного потребления энергии, повышения энергоэффективности путем поощрения использования возобновляемых источников энергии и дефицитных материалов и минимальных отходов, таких как электрические и электронные отходы и ремонтопригодность; поэтому призывает Комиссию включить принципы круговой экономики в любую политику Союза в области робототехники; отмечает, что использование робототехники также окажет положительное влияние на окружающую среду, особенно в области сельского хозяйства, продовольственного снабжения и транспорта, в частности за счет сокращения количества машин и сокращения использования удобрений, энергии и воды, а также путем точное сельское хозяйство и оптимизация маршрутов;

48. Подчеркивает, что CPS приведет к созданию энергетических и инфраструктурных систем, способных контролировать поток электроэнергии от производителя к потребителю, а также приведет к созданию энергетических «прошумеров», которые одновременно производят и потребляют энергию; что позволяет получать значительные экологические выгоды;

ответственность

49. считает, что гражданская ответственность за ущерб, причиненный роботами, является важной проблемой, которую также необходимо проанализировать и рассмотреть на уровне Союза, с тем чтобы обеспечить такую ​​же степень эффективности, транспарентности и последовательности в осуществлении правовой определенности во всем Европейском союзе в интересах граждан, потребителей и предприятий;

50. отмечает, что разработка технологии робототехники потребует более глубокого понимания общей точки зрения, необходимой для совместной деятельности человека и робота, которая должна основываться на двух основных взаимозависимых отношениях, а именно на предсказуемости и директивности; указывает, что эти две взаимозависимые отношения имеют решающее значение для определения того, какая информация должна быть разделена между людьми и роботами, и как можно достичь общей основы между людьми и роботами, чтобы обеспечить гладкое совместное действие человека и робота;

51. просит Комиссию представить на основе статьи 114 TFEU предложение о разработке законодательного документа по правовым вопросам, связанным с разработкой и использованием робототехники и ИИ, в течение следующих 10-15 лет, в сочетании с незаконными инструментами таких как руководящие принципы и кодексы поведения, о которых говорится в рекомендациях, изложенных в Приложении;

52. считает, что любое юридическое решение, применимое к гражданской ответственности за ущерб, причиненный роботами в случаях, отличных от ущерба, причиняемого имуществу, в будущем законодательном акте никоим образом не должно ограничивать тип или степень возмещения убытков, которые могут быть возмещены , а также не ограничивает формы компенсации, которые могут быть предложены потерпевшей стороне, на том единственном основании, что ущерб причинен нечеловеческим агентом;

53. считает, что будущий законодательный документ должен основываться на углубленной оценке Комиссией, определяющей, следует ли применять подход строгой ответственности или управления рисками;

54. отмечает в то же время, что строгая ответственность требует только доказательств того, что был нанесен ущерб, и установления причинно-следственной связи между вредным функционированием робота и ущербом, понесенным потерпевшей стороной;

55. отмечает, что подход к управлению рисками не фокусируется на лицах, «которые действовали небрежно», как на индивидуальной основе, а на лица, которое в определенных обстоятельствах может свести к минимуму риски и справиться с негативными последствиями;

56. Считает, что в принципе, когда стороны, несущие основную ответственность, были определены, их ответственность должна быть пропорциональна фактическому уровню инструкций, данных роботу, и степени его автономии, с тем чтобы увеличить возможности обучения робота или автономии, и чем дольше обучение робота, тем больше должна быть ответственность его тренера; отмечает, в частности, что навыки, возникающие в результате «обучения», предоставляемого роботу, не следует путать с навыками, строго зависящими от его способностей к самообучению при поиске личности человека, которому на самом деле может быть нанесено вредное поведение робота; отмечает, что, по крайней мере, на данном этапе ответственность лежит на человеке, а не на роботе;

57. Означает, что возможное решение сложности распределения ответственности за ущерб, причиненный все более автономными роботами, может быть обязательной схемой страхования, как это уже происходит, например, с автомобилями; отмечает, тем не менее, что в отличие от системы страхования дорожного движения, когда страхование охватывает человеческие действия и сбои, система страхования робототехники должна учитывать все потенциальные обязанности в цепочке;

58. считает, что, как и в случае страхования автотранспортных средств, такая система страхования может быть дополнена фондом, с тем чтобы обеспечить возмещение ущерба в случаях, когда страховое покрытие отсутствует; призывает страховую отрасль разрабатывать новые продукты и типы предложений, которые соответствуют достижениям в области робототехники;

59. призывает Комиссию при проведении оценки воздействия ее будущего законодательного инструмента изучить, проанализировать и рассмотреть последствия всех возможных правовых решений, таких как:

а) установление схемы обязательного страхования, когда это необходимо и необходимо для конкретных категорий роботов, в соответствии с которыми, подобно тому, что уже происходит с автомобилями, производителями или владельцами роботов, потребуется взять страховую защиту за ущерб, который может быть причинен их роботами;
б) обеспечение того, чтобы компенсационный фонд не только служил цели гарантии компенсации, если ущерб, причиненный роботом, не был покрыт страхованием;
с) позволяя производителю, программисту, владельцу или пользователю пользоваться ограниченной ответственностью, если они вносят взносы в компенсационный фонд, а также если они совместно вынимают страховку, чтобы гарантировать компенсацию, когда ущерб причинен роботом;
г) решая, создавать ли общий фонд для всех интеллектуальных автономных роботов или создавать индивидуальный фонд для каждой категории роботов и следует ли выплачивать взнос в виде разовой платы при размещении робота на рынке или периодических взносов оплачиваться в течение всего срока службы робота;
е) что связь между роботом и его фондом будет видна отдельным регистрационным номером, указанным в специальном реестре Союза, который позволит любому, кто взаимодействует с роботом, быть проинформированным о характере фонда, лимитах его ответственности в случай повреждения имущества, имена и функции вкладчиков и все другие соответствующие данные;
е) создавая особый правовой статус для роботов в долгосрочной перспективе, так что, по крайней мере, самые сложные автономные роботы могут быть установлены как имеющие статус электронных лиц, ответственных за нанесение любого ущерба, который они могут причинить, и, возможно, применение электронной личности в случаях, когда роботы принимать автономные решения или иным образом взаимодействовать с третьими лицами самостоятельно;

Международные аспекты

60. отмечает, что действующие в настоящее время правила общего частного международного права в отношении дорожно-транспортных происшествий, применимых в рамках Союза, не требуют срочного изменения в целях развития автономных транспортных средств, однако, упрощение существующей двойной системы для определения применимого права (на основе Регламента (ЕС) Нет 864/2007 Европейского парламента и Совета (7) и Гаагской конвенции от 4 мая 1971 года о праве, применимом к дорожно-транспортным происшествиям) улучшит правовую определенность и ограничит возможности для посещения форума;

61. отмечает необходимость рассмотрения поправок к международным соглашениям, таким как Венская конвенция о дорожном движении от 8 ноября 1968 года и Гаагская конвенция о праве, применимом к дорожно-транспортным происшествиям;

62. ожидает, что Комиссия обеспечит, чтобы государства-члены применяли международное право, такое как Венская конвенция о дорожном движении, которое необходимо изменить единообразно, с тем чтобы сделать возможным вождение водителем и призывает Комиссию, государства-члены и отрасли для скорейшего осуществления целей Амстердамской декларации;

63. решительно поддерживает международное сотрудничество в области изучения социальных, этических и правовых проблем общества, а затем устанавливает нормативные стандарты под эгидой Организации Объединенных Наций;

64. Указывает, что ограничения и условия, изложенные в Положении (ЕС) № 428/2009 Европейского парламента и Совета (8) о торговле предметами двойного назначения - товарами, программным обеспечением и технологиями, которые могут быть использованы для как гражданское, так и военное применение и / или может способствовать распространению оружия массового уничтожения - должно применяться также к применениям робототехники;

Окончательные аспекты

65. просит на основе статьи 225 TFEU Комиссии представить на основании статьи 114 TFEU предложение о директиве о правилах гражданского права в области робототехники в соответствии с рекомендациями, изложенными в Приложении к настоящему документу;

66. подтверждает, что рекомендации уважают основные права и принцип субсидиарности;

67. считает, что запрошенное предложение будет иметь финансовые последствия, если будет создано новое европейское агентство;

o
o o

68. поручает своему Председателю направить эту резолюцию и сопроводительные рекомендации Комиссии и Совету.

 

(1) Директива Совета 85/374 / EEC от 25 июля 1985 года о сближении законов, положений и административных положений государств-членов относительно ответственности за дефектные продукты (OJ L 210, 7.8.1985, стр. 29).
(2) (ЕС) 2016/679 Европейского парламента и Совета от 27 апреля 2016 года о защите физических лиц в отношении обработки персональных данных и свободного перемещения таких данных и отмене Директивы 95/46 / EC ( Общие правила защиты данных) (OJ L, 119 4.5.2016, стр. 1).
(3) (1) Робот не может нанести вред человеку или через бездействие позволить человеку нанести вред. (2) Робот должен подчиняться приказам, данным ему людьми, за исключением случаев, когда такие приказы будут противоречить Первому закону. (3) Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму Законам (см .: И. Азимов, Рункаунд, 1943) и (0) Робот не может нанести вред человечеству или, бездействуя , позволяют человечеству навредить.
(4) Ср Декларация Шумана (1950): «Европа не будет сделана сразу или по единому плану, она будет построена через конкретные достижения, которые вначале создадут де-факто солидарность».
(5) Текст принят, P8_TA (2015) 0390 .
(6) Регламент (ЕС) № 216/2008 Европейского парламента и Совета от 20 февраля 2008 года об общих правилах в области гражданской авиации и создании Европейского агентства по безопасности полетов и отмены Директивы Совета 91/670 / EEC, Регламента (ЕС) ) № 1592/2002 и Директива 2004/36 / EC (OJ L 79, 19.3.2008, стр. 1).
(7) Регламент (ЕС) № 864/2007 Европейского парламента и Совета от 11 июля 2007 года о праве, применимом к внедоговорные обязательства (Рим II) (OJ L 199, 31.7.2007, стр. 40).
(8) Постановление Совета (ЕС) № 428/2009 от 5 мая 2009 года об установлении режима Сообщества для контроля за экспортом, передачей, посредничеством и транзитом товаров двойного назначения (OJ L 134, 29.5.2009, стр. 1).

 

Original:

http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//EN#def_1_1