Почему искусственный интеллект вряд ли убьёт нас

30.07.2017 14:05

Самообучающиеся системы не смогут навредить наемным работникам, детям и принять неэтичные решения. Встречайте законы робототехники, которые не обойти. Элон Маск может спать спокойно. Пока менеджер Элон Маск паникует и пытается создать комитеты слежения за искусственным интеллектом во имя спасения человечества, профессиональные инженеры из IEEE заставили всех соблюдать законы робототехники. Хочешь проектировать ИИ? Только если обеспечишь безопасность.
При чем тут Элон Маск и Марк Цукерберг? Почему искусственный интеллект вряд ли убьёт нас Еще 15 июля Элон Маск призвал американских губернаторов создать организацию для слежки за системами искусственного интеллекта. Мотив простой — по мнению Маска, рано или поздно они уничтожат человечество.
Но мы еще этого не замечаем: Элон Маск:
Пока люди не видят роботов, убивающих людей на улицах, они не знают, как реагировать, потому что такой сценарий кажется им нереалистичным. Парадоксальное выступление от человека на острии науки, правда? Его высмеял даже Цукерберг. Невольно задумываешься — он вообще понимает, о чем говорит? Действительно ли он в состоянии проектировать будущее? Или, может быть, за этим предложением прячется желание законодательно одобренного шпионажа для получения новейших разработок? Спи сладко, Элон. Спи сладко, читатель. За тебя уже все сделали в IEEE. ИИ больше не навредит.
Кто такие IEEE? Почему искусственный интеллект вряд ли убьёт нас IEEE — Институт инженеров электротехники и электроники, международная некоммерческая организация-разработчик стандартов по радиоэлектронике, электротехнике и аппаратному обеспечению вычислительных систем и сетей. Фактически, организация обобщает и приводит к общему знаменателю разрозненные разработки, превращая их в единую систему: как для справки, так и для развития. С помощью этих стандартов разные разработчики получают возможность проектирования совместимых с чужими систем.
Среди самых известных стандартов IEEE:

IEEE 1294 — USB,
IEEE 1394 — FireWire (i-Link),
IEEE 802 — семейство сетевых протоколов.

Последний знаком даже простым пользователям — вспомните, как называется версия Wi-Fi?
Как IEEE планирует регулировать ИИ Почему искусственный интеллект вряд ли убьёт нас IEEE выпустила три новых стандарта, регулирующие этические вопросы работы систем искусственного интеллекта при обработке данных и взаимодействии с окружающим.

Документы относятся к разряду обязательных стандартов сообщества и были разработаны в рамках стандартизации работ по изучению этических аспектов ИИ и самоуправляемых автомобилей.

Содержимое стандартов объемно и содержит преимущественно информацию для разработчиков. В основе текстов — постановка этических проблем при обработке данных искусственным интеллектом и способы их решения. В результате IEEE предложила готовую матрицу для программирования систем с учетом интересов и моральных норм человечества.
Что описывают стандарты IEEE о искусственном интеллекте? Почему искусственный интеллект вряд ли убьёт нас Один из стандартов, IEEE P7004, описывает правила сертификации и контроля тех организаций и систем, которые обрабатывают данные о детях и студентах. IEEE P7005 регулирует работу с данными о наемных работниках.

При его соблюдении ИИ и организации, работающие с данными, обязаны действовать, основываясь на безопасности и благополучии — даже с теми, что находятся в свободном доступе. Так же IEEE описала обязательные нормы, которым должны соответствовать доступ, сбор, хранение, использование, совместное использование и уничтожение данных о детях и учащихся. Почему искусственный интеллект вряд ли убьёт нас Третий стандарт IEEE P7006 описывает для создание и контроль работы персонализированных ИИ-агентов — посредников в принятиях решений между несколькими компьютерами или системами. Методология разработки и технические элементы, заложенные в стандарте, должны исключить любые проблемы в работе интеллектуального аппарата.
Роботы не убьют человеков. IEEE всех спасли Почему искусственный интеллект вряд ли убьёт нас Самое интересное кроется в стандарте IEEE P7006. Он не просто описывает способы сертификации и задает законы робототехники — он процедуру, принцип работы искусственного интеллекта, связывающего человека и машину:

как должен работать ИИ-агент;
как должен предоставляться доступ к нему;
как должна вводиться информация;
как должно проходить обучение ИИ;
какие нормы этические нормы, правила и ценности должен заложить разработчик.

Первая версия стандарта если не введет 3 закона робототехники в обязательные для исполнения правила, то хотя бы минимизирует возможный вред. По мере развития технологий P70006 станет единым правилом, которое обеспечит защиту личности и безопасность всего человечества.
А если я не хочу соблюдать стандарт?
Стандарты IEEE как правило принимаются всем сообществом, и через некоторое время либо становятся универсальным документом для всех использующих технологию, либо превращаются в документ другой организации — при сохранении функций.

Соблюдение стандартов IEEE необходимо не только для получения бумаг от официальных структур. Многие принципы, заложенные в них, обеспечивают совместимость систем различных разработчиков.

Кроме того, они работают в качестве сертификата соответствия, говоря о надежности продукта. Правила просты: Не хочешь соблюдать — выйди из системы и живи без сертификата, проектируй для себя и не публикуйся. Хочешь, чтобы тебе доверяли и приобретали продукт — соответствуй! Взято с iphones.ru

Источник