Между сторонниками и противниками искусственного интеллекта уже много лет ведется спор: что будет, когда машины начнут думать как человек и принимать решения не хуже, чем человек. Фантасты рисуют чудовищные картины «восстания роботов», Илон Маск предрекает глобальную катастрофу, если правительства не начнут регулировать деятельность компаний в сфере высоких технологий.
А тем временем, глава DeepMind Technologies Демис Хассабис мечтает о том, чтобы найти химическое соединение, которое позволит создать сверхпроводник, работающий при комнатной температуре. И рассчитывает, что с задачей справится искусственный интеллект. Зачем ему это нужно? Да потому, что такой материал позволит сразу сократить выбросы CO2 в атмосферу на полтора десятка процентов!
По просьбе издания Quartz основатель стартапа Blippar Амбариш Митра, работающий с технологиями дополненной реальности, рассуждает о главных человеческих ценностях, с которыми, рано или поздно, мы попросим разобраться искусственный интеллект. И это будет первый случай, когда человек услышит мнение машины о самом себе. Криптус перевел эту статью и публикует ее пересказ.
Может ли искусственный интеллект сделать мир более нравственным? Мораль – это одна из отличительных особенностей человека. Сама природа человека побуждает нас проводить грань между истинным и ложным, а другие люди, находящиеся рядом, подталкивают нас к том, чтобы транслировать наши ценности на них.
Вопросы морали обычно мы адресуем к философам, интеллектуалам и духовным пастырям. Но по мере того, как искусственный интеллект становится неотъемлемой частью нашей жизни, мы обязаны задуматься о его влиянии на мораль и о морали самого искусственного интеллекта.
Вопросов, связанных с моральным поведением машины, уже накопилось немало. Один из них – как должен вести себя на дороге беспилотный автомобиль в случае неизбежного столкновения с человеком или группой людей? Некоторые универсальные максимы объединяют все человечество: не убий, не укради, не лги. Но единой системы морали, которую можно было бы применить ко всем людям, нет. Вполне вероятно, именно искусственный интеллект мог бы помочь нам ее создать.
В 1986 году философ и ученый Рональд Дворкин издал книгу «Империя закона, в которой описал идею воображаемого судьи Геркулеса – некоего идеального юриста с исключительными сверхчеловеческими способностями, достаточными для того, чтобы понять и правильно применять закон в его полном виде. Включая влияние каждого решения на будущее. Закон для Геркулеса является продолжением его моральных принципов, связанных с понятием справедливости. Очевидно, что этот герой, как и вся книга – утопия.
Но возможно, пишет Митра, инструменты искусственного интеллекта помогут нам приблизиться к чему-то подобному. Предположим, что в нашем сознании существует идеальная система ценностей. Ее создание должно состоять в сборе и анализе огромных объемов данных, мнений и условий. И получении правильного результата.
Представим, что мы можем собрать информацию о том, что каждый человек считает правильным. Что, если мы сможем отследить представление о справедливости на всех этапах истории? Обладая достаточным количеством источников, искусственный интеллект мог бы провести для нас анализ этого гигантского массива знаний и побудить нас сформулировать лучшую систему морали.
Например, искусственный интеллект способен помочь преодолеть предвзятость в процессе принятия решений, когда необходимо учитывать потребности и интересы разных групп людей. Это может быть важно при решении вопросов здравоохранения или создании новых законов. Виртуальный «Геркулес», не оглядывающийся на свой собственный опыт, будет добиваться максимального уровня справедливости, опираясь не только на принцип равенства, но и учитывая несовершенство человека.
С другой стороны, неконтролируемый анализ данных может непреднамеренно создать систему морали, которая станет худшим, что будет придумано человеком. Но это произойдет только в том случае, если работа искусственного интеллекта будет рассматриваться как конечная цель. Нельзя полагаться на машину при решении наших проблем, но машину можно и нужно использовать, чтобы помочь их решить нам самим.
Применение искусственного интеллекта может иметь смысл при оценке общественно значимых действий и их влиянии как на отдельных людей, так и на мир в целом, считает Амбариш Митра. Имея такой инструмент, человечество, вероятно, смогло бы научиться принимать более обоснованные и справедливые во всех смыслах решения.
