Всемирно известный производитель Bosch провела этическую границу в использовании искусственного интеллекта (ИИ). Компания выпустила руководство по использованию ИИ в своих умных продуктах.
Этический кодекс Bosch для ИИ основан на принципе: человек должен контролировать решения ИИ. «Искусственный интеллект служит людям. Наш этический кодекс ИИ дает сотрудникам четкие инструкции по разработке умных продуктов, – прокомментировал председатель правления Bosch Деннер. – Мы хотим, чтобы люди доверяли нашей продукции на базе ИИ».
ИИ – жизненно важная технология для Bosch. Компания стремится к тому, чтобы к 2025 году вся продукция Bosch содержала ИИ или производилась и разрабатывалась с его помощью. Компания поставила перед собой цель сделать свои продукты на базе ИИ безопасными, надежными и понятными.
«Доверие возникнет только в том случае, когда люди поймут, что ИИ – это не черный ящик. Вот что станет ключевым фактором в мире интернет-технологий, – заявил директор по цифровым технологиям и технический директор Bosch Майкл Болле. – Компания стремится производить надежные продукты на базе ИИ. Этический кодекс компании основан на принципе «Разработано для жизни» и сочетает в себе стремление к инновациям и социальную ответственность».
В течение следующих двух лет Bosch планирует обучить порядка 20 тыс. сотрудников работе с искусственным интеллектом. Этический кодекс Bosch для ИИ, регулирующий ответственное использование этой технологии, станет частью образовательной программы.
ИИ обладает огромным потенциалом
Искусственный интеллект – это двигатель глобального прогресса. Например, консультанты по вопросам управления PwC прогнозируют, что до 2030 года ИИ увеличит ВВП в Китае на 26%, в Северной Америке – на 14%, а в Европе – примерно на 10%. Эта технология может помочь справиться с такими вызовами, как борьба с изменением климата, оптимизировать результаты на транспорте, в медицине и сельском хозяйстве.
Эта технология оценивает огромные объемы данных, на основе которых алгоритмы делают выводы и в дальнейшем принимают решения. Поэтому задолго до введения обязательных стандартов Европейского Союза Bosch начала активно заниматься этическими вопросами, которые возникают в связи с использованием ИИ. Действия компании основаны на тех же ценностях, которые закреплены во Всеобщей декларации прав человека.
Люди должны сохранять контроль
Согласно этическому кодексу Bosch, искусственный интеллект не должен принимать решения, влияющие на людей, без привлечения оценки человека. Более того, искусственный интеллект должен служить людям инструментом.
В кодексе описаны три возможных подхода, которые объединяет следующее – в продуктах Bosch на базе ИИ человек сохраняет контроль над любыми принятыми алгоритмами и решениями. В первом случае (human-in-command) искусственный интеллект играет роль исключительно вспомогательного инструмента – примером тому служат системы, помогающие людям классифицировать объекты или живых существ. При втором подходе (human-in-the-loop) умная система автономно принимает решения, которые человек может отменить в любой момент. Например, частично автономное вождение, где человек может напрямую вмешиваться в алгоритм, скажем, системы помощи при парковке. Третий подход используется в таких приложениях, как системы аварийного торможения.
При разработке этих умных продуктов специалисты устанавливают определенные параметры, на основе которых ИИ принимает решения. Здесь невозможно напрямую вмешаться в процессы. Задним числом инженеры могут проверить, выполняет ли машина требования, установленные человеком. При необходимости параметры могут быть изменены (human-on-the-loop).
Выстраиваем доверие вместе
Bosch также надеется, что этический кодекс для ИИ внесет вклад в общественную дискуссию об искусственном интеллекте.
«Поскольку ИИ изменит все аспекты нашей жизни, эта дискуссия крайне необходима, – отметил Фолькмар Деннер. – Чтобы установить доверие к умным системам, мало одного технического ноу-хау – нужно наладить диалог между политиками, научным сообществом и широкой общественностью. Именно поэтому Bosch вошла в High-Level Expert Group on Artificial Intelligence – орган, назначенный Европейской комиссией для исследования этических аспектов ИИ. В рамках глобальной сети, которая в настоящее время включает в себя семь филиалов, и в сотрудничестве с университетом Амстердама и университетом Карнеги-Меллон в Питтсбурге, штат Пенсильвания, компания занимается исследованиями в области безопасного и надежного ИИ. Также в качестве одного из основателей исследовательского альянса Кибер-долины в Баден-Вюртемберге Bosch инвестирует 100 млн. евро в строительство кампуса для ИИ, где в скором времени 700 собственных экспертов компании будут работать бок о бок с внешними исследователями и стартап-партнерами. И последнее, но не менее важное. Созданный компанией Bosch «Форум цифрового доверия» направлен на развитие тесного диалога между экспертами ведущих международных ассоциаций и организаций».
По словам Майкла Болле, общая цель форума – сделать интернет вещей безопасным и надежным.
Коротко: основные принципы этического кодекса Bosch для ИИ
Все продукты на базе ИИ компании Bosch отражают наш принцип «Разработано для жизни», объединяя в себе стремление к инновациям и социальную ответственность.
Любое решение, влияющее на людей, не может быть принято без человеческого контроля. ИИ должен быть инструментом для людей.
Мы разрабатываем безопасные, надежные и понятные продукты на базе ИИ.
Доверие – одна из основополагающих ценностей нашей компании. Мы хотим разрабатывать надежные продукты на базе ИИ.
Разрабатывая продукты на базе ИИ, мы соблюдаем требования закона и другие этические принципы.
