В качестве возможности можно упомянуть некоторые потенциальные результаты, такие как уменьшение социального зла, но машины могут также заменить людей в опасных или неприятных действиях. Развитие Индустрии 4.0 позволило использовать значительный объем необработанных данных в знаниях, снизить затраты, повысить качество и улучшить условия труда. Первая машинная эра представила инновации, ответственные за замену человеческой мускульной силы, создание реальной современной жизни и резкий изгиб кривой человеческой истории, а также спровоцировало создание нескольких разработок, о которых раньше фантазировать могли только писатели-фантасты. Сейчас мир вступает во вторую эру машин, когда технологии создают умственную составляющую, которая, как ожидается, преодолеет прошлые ограничения и выведет человечество на новый уровень совершенства. Таким образом, вполне логично представить себе ИИ, который имитирует более широкое понятие интеллекта, содержащее мудрость, а не только в разрезе инструментального представления.
До сих пор нет единого мнения о том, что такое искусственный интеллект и будут ли преодолены технические проблемы, но, тем не менее, эти технологии уже внедряются в самых разных областях деятельности (раньше бы добавили слово «человеческой»). В то же время, наше понимание этических и социальных последствий такого масштабного применения тривиально, хотя уже сейчас факты доказывают, что непреднамеренные последствия могут происходить чаще, чем ожидалось, несмотря на благие намерения. Кроме того, надо оценивать не только объём и значение технических аспектов. Легко представить искусственный интеллект как часть информационной среды и предмет инженерных исследований, но уже предпринимаются попытки учёных-когнитивистов призвать людей принимать решения с помощью искусственного интеллекта, который якобы начинает рассуждать по-человечески. Машинный разум, среди прочего, также стал плодотворной областью исследований человеческого мышления, возродив многовековые дискуссии о принятии решений, человеческих действиях, рациональности и познании. В этом отношении длительные дебаты о человеческом интеллекте были расширены искусственными агентами, пытающимися воспроизвести его, и одним из наиболее плодотворных является этический вопрос.
Если в прежние времена все были обеспокоены разработкой этики для людей, использующих машины, то теперь срочно необходимо обсудить этику для машин. Стремясь имитировать человеческое поведение, искусственный интеллект контрастирует с традиционными технологиями, и в связи с этим изменилась перспектива анализа этики. С технической точки зрения, машины — это не более чем инструменты, используемые людьми, поэтому этическая ответственность лежит на людях, использующих машины, и включает их надлежащее и ненадлежащее использование. Это означает, что все возникающие компромиссы и моральные дилеммы были ответственностью людей, и эту ответственность легко отследить. Но что происходит, когда принятие решений зависит исключительно от машин?
Технологические достижения поднимают множество социальных вопросов, поскольку технология и ее алгоритмы молчаливо определяют канву жизни многих людей, например, в продвижении по службе, предложениях кредитов и продуктах, которые могут быть у потребителей. Такие области, как бухгалтерия, образование, консалтинг могут быть легко автоматизированы, и даже некоторые медицинские техники уступили место машинам. Хотя ещё до конца не определены критические оценки, которые уже обсуждаются, например, в случаях принятия медицинских решений о протоколах лечения или постановке правильного диагноза, а ведь речь может идти о жизни и смерти. Оправдание, чтобы допустить это вмешательство в нашу жизнь, состоит в ожидании, что будущие улучшения сократят неравенство, помогут победить бедность, минимизируют ущерб от бедствий, наконец прекратятся войны и т. д. Таким образом, речь идёт не о технологии, а о нашем глобальном будущем.
Многие технологии уже изменили общество. Однако впервые создана технология, которая может заменить создателей исключительно в человеческой деятельности, а не просто сотрудничать с ними, как в предыдущих эволюциях. ИИ считается небиологическим типом интеллекта, который представляет собой последнюю критическую точку жизни, технологическую фазу (жизнь 3.0), когда и программное, и аппаратное обеспечение могут разрабатываться сами по себе. Эта способность появилась, когда процесс обработки данных развился до того, что добавил способность к машинному обучению, позволяющую обучаться алгоритмам. Тем не менее, несмотря на эту способность, противоречия возникают из-за того факта, что алгоритмы по-прежнему представляют собой просто последовательности инструкций, которые направляют машины или любую встроенную в них технологию к действиям с использованием входных данных и получением выходных данных.
Особые особенности ИИ подчёркивают, как компьютерную/техническую часть, так и научную сторону, что помогает научной области понять человеческий интеллект и воспроизвести его. Эта междисциплинарная характеристика отражает пересечение теории вычислений из предыдущих десятилетий и когнитивной революции. Кроме того, важно помнить, что ИИ — это не одна технология, а их набор. По классификации их можно разделить на две основные группы: сильный ИИ (GAI), целью которого является создание человекоподобных технологий с интеллектом в разных областях и общий слабый искусственный интеллект (AGI), который создаёт машины, которые действуют псевдоразумно. Альтернативная классификация включает партнёров ИИ, которые помогают людям, и разумный ИИ, который стремится победить людей из-за их несовершенства. В этом смысле некоторые разработчики говорят о сверхразумном ИИ, намеревающемся улучшить людей и даже достичь бессмертия, передав человеческий мозг роботу. Однако до сих пор неясно, насколько дискуссии о сверхразуме актуальны для развития исследований в этой области.
До сих пор вызывает споры само определение того, что означает искусственный интеллект. Говорить, что ИИ — это технология, способная демонстрировать интеллектуальные способности с помощью алгоритмов, слишком неточно с философской и этической точки зрения. Легко понять, что искусственный означает «нечеловеческий», что охватывает широкую область, посвящённую разработке объектов, способных к разумному поведению в контролируемой среде достаточно долгое время. С другой точки зрения, ИИ также можно рассматривать как междисциплинарный подход к пониманию, созданию моделей, воспроизведению интеллектуальных и когнитивных процессов на основе вычислительных, математических, механических и даже биологических принципов.
Однако одна из проблем разграничения ИИ связана с непоследовательностью, пронизывающей эти основополагающие концепции: они предполагают точные и интеллектуальные системы в определённых областях, и не всегда подразумевают человеческий интеллект. Например, животные также могут демонстрировать весьма разумное поведение. А значит более полное определение должно также учитывать демонстрацию «разума посредством небиологических, но естественных процессов». Кроме того, слово интеллект имеет тенденцию иметь положительную коннотацию, поэтому более широкая интерпретация также должна быть нейтральной, поскольку упомянутая способность может иметь не только хорошие цели — эту возможность люди должны совершенно чётко осознавать, внедряя ИИ в критические сегменты обеспечения.
