ТВ программа "Каббала экспресс"
31 июля 2023 г.
Интеллект

Определение интеллекта и его уровни

Вопрос: Если говорить об интеллекте, то на сегодняшний день нет единого определения этого понятия. Существует несколько направлений, согласно которым классическая наука определяет интеллект.

Первое: интеллект – качество, состоящее из способности человека осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления собой и окружающей средой.

Второе: интеллект – это общая способность к познанию и решению проблем, которое объединяет все познавательные способности человека, его способности к осознанию различных ситуаций.

Третье определение, очень короткое и концентрированное: интеллект – это прежде всего основа целеполагания, планирования ресурсов и стратегии достижения цели.

А как бы вы определили, что такое интеллект?

М. Лайтман: Я ближе всего склоняюсь к третьему определению. Самое главное – это все-таки целеполагание и способ его достижения.

Вопрос: Если погрузиться в это определение интеллекта, то ученые немного разворачивают его, считая, что он действует на трех уровнях.

Для простоты понимания назовем интеллект агентом, который что-то делает.

Первый уровень: агент достигает цели, но во всем управляется человеком. Например, калькулятор или компьютер. Человек ставит ему цели, полностью программирует и управляет им во всех смыслах.

Второй уровень: у агента есть цель, которую поставил человек, но способы достижения выбирает интеллект. Допустим, искусственный интеллект, который обучается на каких-то данных. В нем происходит формирование нейронных связей, и на их основе он может предлагать нечто новое. То есть это не программирование, это создание чего-то нового.

И третий уровень – это животное или человек, которые сами ставят цели и сами вырабатывают алгоритмы их достижения. Животные – какие-то простые цели и методы достижения. Человек – более сложносоставные.

Но корректно ли говорить, что человек сам ставит себе цели?

М. Лайтман: В рамках нашей деятельности, жизни, общения, мы, в принципе, желаем того или нет, но ставим перед собой цели в течение жизни и всего, что с нами происходит.

Внутри "черного ящика"

Вопрос: Есть такое устойчивое выражение: "Мне пришла в голову мысль". Откуда появляется мысль?

М. Лайтман: Этого мы не знаем.

Реплика: Человек даже не особо задумывается над этим.

М. Лайтман: Именно поэтому и не задумывается, что не знает. Человек не может, не способен это проконтролировать. И даже если кто-то извне ему скажет об этом, ему все равно это не поможет, потому что он не может выйти из "черного ящика" – из самого себя.

Вопрос: В рамках нашей материальной жизни нам кажется, что мы сами формулируем свои цели и сами решаем, каким образом их достичь. Так это кажется или нет?

М. Лайтман: Конечно, кажется. Мы ведь не можем быть уверенными ни в чем. Мы и ошибаемся, и передумываем, и слушаем другие мнения. В отношении всего, что происходит, человек не может сказать на 100%, что он в чем-то уверен. Истины нет.

Вещь в себе

Реплика: В течение жизни человек приобретает жизненный опыт, учится на примерах и на абстрактных концепциях. Это сходно с дрессировкой животного, когда мы ставим ему какие-то задачи, даем примеры и за их выполнение какую-то награду. И по результатам этих действий оцениваем, собака умная или глупая. Человека точно так же дрессируют в течение жизни?

М. Лайтман: Конечно, мы оцениваем себя и всех остальных только относительно наших задач.

Вопрос: То есть в человека постоянно входит какая-то информация. Внутри него происходят какие-то расчеты, скрытые от него, и на их основании он действует. Как ему зацепиться за причину этих действий, чтобы оправдать их?

Допустим, с искусственным интеллектом понятно, что человек ставит ему цели, дает базу данных для обучения, даже оценивает, что хорошо, а что плохо в его действиях. А как это определить в отношении человека?

М. Лайтман: В отношении человека мы ничего не можем сделать, потому что здесь принимается во внимание еще и высшая нервная деятельность. Так что с человеком это труднее. И с машиной будет труднее. Если мы говорим о самообучающихся алгоритмах, то нам будет трудно установить правильное отношение к машине.

Да и к человеку тоже. Поэтому мы и друг к другу относимся чисто внешне, один внутрь другого зайти не может. Непонятно, как и что делать с этим человеком внутри себя, ведь он – вещь в себе.

Непознанный механизм "черного ящика"

Вопрос: В процессе обучения искусственного интеллекта в нем полностью сохраняется механизм "черного ящика". Если до этого человек создавал компьютеры, то он четко знал, что это микросхема, этот алгоритм, есть причина и следствие, все идет по цепочке и приводит к какому-то результату. Человек понимал всю схему.

При обучении искусственного интеллекта моделируется строение нейросетей. На первом уровне в него загружается огромная информация – триллионы данных. После этого в нем что-то происходит, как в "черном ящике". То есть нейронные сети сами выстраиваются внутри "черного ящика"?

М. Лайтман: Да, это и есть та точка, в которой мы не владеем данными, информацией.

Реплика: Эта информация находится именно внутри "черного ящика", и человек не знает, что там происходит как по отношению к себе, так и по отношению к своему творению. Он просто получает какой-то результат, который статистически его больше удовлетворяет.

М. Лайтман: Здесь вообще возникает очень много вопросов. Как мы выбираем результат? Интуитивно или потому, что в нас это заложено, что именно такой результат нам ближе, с ним мы согласны жить, а с тем – ни в коем случае. То есть здесь есть большая проблема в самом человеке, а не в машине – не в том, что она выбирает, а в том человеке, который выбирает.

Поэтому множество вопросов пока остаются открытыми. Но я думаю, что в ближайшие годы мы начнем это больше понимать. Когда мы сможем это решить, я не знаю, но понять сможем.

Проблема постановки цели

Вопрос: Существует проблема, которая называется "проблема постановки цели". Она действует и относительно человека, и относительно искусственного интеллекта.

Если человек ставит перед собой цель, то ему нужно оценивать в глобальном смысле, хорошо это или плохо, приближает она его к чему-то или отдаляет. Он оценивает это как на генном уровне, так и на основе приобретенных от общества моральных принципов, законов государства.

А когда происходит обучение искусственного интеллекта, то здесь возникает проблема, как оценивать его действия, ведь если не учесть хотя бы один фактор, то искусственный интеллект его проигнорирует. Предположим, перед ним стоит задача засеять поле клубникой, но при этом не убить человека. Если фактор "не убить человека" будет проигнорирован, не включен в общий алгоритм, то это нанесет большой вред. Это настолько сложносоставная система, которую изначально спроектировать невозможно.

Как определить, что хорошо, а что плохо? Я понимаю, что это проблема высшего порядка. Но все-таки на основании чего можно сделать или хотя бы приблизиться к выводу, что хорошо, а что нет?

М. Лайтман: Во-первых, то, что делается для блага людей, – не одного человека, не одной группы, а для блага абсолютно всех людей, то и хорошо. Во-вторых, хорошо, если при этом не наносится невосполнимый вред природе. Вот, пожалуй, и всё.

Эти два правила, по сути, очень сложны, но внутри них многое заложено.

Вопрос: Это сходно с каббалистическими определениями, когда вроде бы простое определение содержит в себе буквально все мироздание или весь путь человечества от начала и до конечной цели. Как оперировать такими вещами на практике?

М. Лайтман: Только лишь при условии правильного образования для всех населяющих планету. То есть загружать в человека правильную информацию в процессе жизни и вместе с ним прорабатывать ее, пока она не станет практической необходимостью и реальностью.

Принципы правильных примеров

Вопрос: Когда создается искусственный интеллект, то он обучается на триллионах параметров – буквально на всем, что создало человечество на протяжении своего недолгого существования по космическим меркам. Других вариантов нет. Но все, созданное человеком, не сильно работало во благо себе. Как тогда загружать правильную информацию или правильно воспитывать, давать правильные примеры?

Откуда это брать, если весь набор примеров, существующий в мире человека, негативный, отрицательный?

М. Лайтман: Нам неважно, положительные это результаты или отрицательные. Главное для нас – что мы можем согласиться с тем, что они такие. То есть на всех примерах, которые даются человечеству, я могу научиться и хорошему, и плохому.

Но речь, в принципе, идет о выполнении двух условий. Первое условие: действовать на благо всего человечества. Второе: не наносить невосполнимый вред природе.

Поэтому все, что загружается в человека, оценивается только на базе этих двух принципов и на их основании делается вывод – брать этот пример в использование или нет.

Разрыв связи с чувствами

Вопрос: В науке есть тезис ортогональности, который формулируется так: "Любой, сколь угодно умный разум, может преследовать любые, сколько угодно глупые цели". То есть эти две вещи ортогональные, не связанные друг с другом. Насколько ни был бы умным интеллект, он спокойно может преследовать абсолютно глупые или плохие цели.

Как связать эти два параметра, чтобы на самом деле использовать интеллект для высоких целей?

М. Лайтман: Когда ты говоришь о механизме взаимодействия интеллектов, ты принимаешь во внимание то, что они чисто интеллектуальны или чувственны?

Реплика: На текущий момент я принимаю во внимание, что они чисто интеллектуальны. То есть мы говорим об интеллекте, оторванном от ощущений.

М. Лайтман: Тогда речь идет о механических устройствах, а не о человеке или любой чувственной цивилизации.

Реплика: Но по сути, ощущения – это прием человеком информации. А дальше уже происходит ее оценка, переработка и так далее. И если мы начали беседу с оторванности человеческого интеллекта от области ощущений, то, по сути, пришли к тому, что все это происходит в связке с чувствами.

М. Лайтман: Получается, что чувственные параметры мы учитывать не можем.

Вопрос: Но если человек ощущает что-то и способен эти чувства перерабатывать, почему мы не можем их учитывать? Это всё та же информация, которая заходит в нас в разных формах. Мы что-то чувствуем, анализируем и на основании этого действуем.

То есть эта связка – высшая цель, методы достижения, не связанные с целеполаганием, область ощущений при входе в нас информации – все это на самом деле абсолютно разорвано в человеке.

Непонятно, как это работает. Может быть, есть какая-то точка, сквозной стержень, который бы все это соединил? Или человеку это вообще не нужно?

М. Лайтман: Дело в том, что если мы желаем как-то вмешаться в проектирование таких систем, то обязаны поставить, по крайней мере, несколько условий, которые не доведут человечество до гибели, самоуничтожения. Тогда у нас появятся четкие указания, где мы должны ограничить эту систему.

Редакция: Тамара Авив, Ирина Романова