Стенограмма составлена на основе русского синхронного перевода и прошла корректуру. Возможны небольшие смысловые неточности.
Мир. Искусственный интеллект. Эпизод 210. 20 октября 2022 г.
Ведущая: Здравствуйте. И добро пожаловать на передачу «Мир». Сегодня мы поговорим с доктором Михаэлем Лайтманом (PhD) на тему «Искусственный интеллект». Д-р Лайтман (PhD), добро пожаловать.
М. Лайтман: Да. Пожалуйста, я готов.
Ведущая: Сегодня мы начнем немного с продолжительного вступления, более чем обычно, чтобы было понятно, о чем пойдет речь. Искусственный интеллект – это самое важное открытие в технологии с момента изобретения компьютера, можно сказать, что это революция.
И это меняет всю нашу жизнь, хотя не всегда понятно как, когда и почему, и это великий парадокс искусственного интеллекта. Кажется, что способность машин думать, понимать и самостоятельно приходить к выводам может быть самым важным технологическим достижением последних столетий. Но она также представляет реальную опасность для человечества, потому что компьютеры сегодня управляют атомными электростанциями, электроснабжением, эксплуатацией военных ракет.
Если вдруг произойдет такое, что искусственный интеллект однажды решит, что люди больше не нужны, это звучит как страшный научный фантастический фильм. И все же этот страх разделяют некоторые из самых блестящих умов нашего времени, от Билла Гейтса и Илона Маска до ученого Стивена Хокинга в его время.
Один из отцов искусственного интеллекта Марвин Ли Мински был убежден, что искусственный интеллект спасет человечество. И он также предсказал следующее: «Когда компьютеры получат власть и возьмут над нами верх, мы возможно никогда уже не сможем вернуть это обратно, мы выживем и будем выживать, пока они нас терпят. И если нам повезет, они решат оставить нас в качестве своих домашних животных». Мински сказал это в 1970 году, когда еще не было домашних компьютеров и интернета. И вопрос: можно ли сказать, что искусственный интеллект является величайшим достижением нашего времени, но в тоже время – величайшей угрозой для нас? Это первый вопрос.
М. Лайтман: Да, я с ним согласен, что на самом деле все приборы, которые мы строим, в конечном счете могут получить такую силу и свободу действий, что, может быть, произойдет так, что они сделают что-то, что будет не на благо человечества. Вопрос в том, как мы понимаем, как мы определяем, что такое искусственный интеллект. Существует ли вообще интеллект у компьютеров или это просто решение, которое компьютеры принимают, согласно их желанию, якобы, согласно своей команде, или согласно алгоритмам, которые мы вкладываем в них, они могут решить, что то или иное пойдет на пользу?
И тогда в результате мы окажемся в их руках. И в этом как раз проблема. Достигли ли мы уже состояния, когда компьютеры могут решить что-то во вред нам? Мы пока еще находимся в этом вопросе, обсуждаем, рассуждаем, пишем об этом. Мы даже не можем дать точного определения тому, что компьютеры могут выполнить в результате правильного или неправильного расчета по отношению к людям. И может ли быть что-то с их стороны против человечества? Хотя мы сами их строим, сами обеспечиваем их всеми алгоритмами, программами. Но может быть такое, что во всех их действиях они пойдут против нас. Да.
И здесь мы должны спросить себя: есть ли у этих машин свобода желания (воли)? Понятно, что нет. А что у них есть, так это возможность принимать решения согласно программам, которыми мы их обеспечиваем, принимать такие решения, которые будут якобы против человечества. И здесь встает вопрос... Мы пока не видим этого на практике, но у нашего страха есть какая-то основа. Здесь мы на самом деле думаем, что можем прийти к опасному состоянию, когда компьютеры решат, несмотря на то, что мы захотим их остановить (если сможем понять, что они хотят сделать что-то против), сможем ли мы это сделать.
Ведущая: (06:33) Да, верно. Сегодня говорят, что использование данных и информации в искусственном интеллекте направлено на то, чтобы сделать нашу жизнь проще и эффективнее для решения задач в сферах здравоохранения, образования, охраны окружающей среды и так далее. Но что со связями между развитием искусственного интеллекта и эволюцией человечества?
М. Лайтман: Эволюция человечества не настолько продвигается, как искусственный интеллект, потому что у нас нет направления, в котором мы могли настолько бы уж пойти вперед. Но компьютеры, программы, алгоритмы – они могут, конечно же, даже бежать вперед. И скорость, с которой они могут принимать решения, делать сравнения и выбирать из миллиардов возможностей определенную возможность – это то, на что человек точно не способен. И поэтому то, о чем мы на самом деле должны подумать – как мы можем предостеречь себя в том, чтобы свобода действия, которую мы отдаем компьютерам, не вышла из-под нашего управления.
Ведущая: Искусственный интеллект определяется как способность технологической системы, какой бы то ни было, решать проблемы или выполнять задачи и действия, как правило, типичные для человеческого разума, и человеческой способности действовать «автономно», самостоятельно, то есть решать проблемы, выполнять действия. Означает ли всё это, что в конечном итоге искусственный интеллект заменит человека?
М. Лайтман: Нет, он не сможет полностью заменить человека, потому что у человека, кроме способности делать расчеты, принимать решения, есть еще способность фантазировать, то что люди могут представлять ситуации, которых раньше не было у человека. Он не может совершать действия, которые разум никогда еще не представлял, не сформировал, и вся его возможность – это с большой скоростью производить расчеты, сравнения, проверки, измерения.
Мы этого не делаем с такой скоростью, с какой делают компьютеры, но во всем остальном, конечно же, компьютеры, программы, алгоритмы, могут быть более скоростными и эффективными для людей. Это то, что мы видим сегодня, потому что, если бы не компьютеры, мы не могли бы летать в космос и совершать множество действий.
Но, в конечном счете, за всем этим стоит человек, и он принимает решения, он выполняет, он формирует все эти вещи. И, в конце концов, компьютеры не выходят из-под управления человеком.
Ведущая: Алгоритмы предлагают удобные для нас миры с когнитивной точки зрения, они рекомендуют нам, на какие страницы подписываться, в какие группы вступать, каких людей добавлять в наш ближайший круг общения, согласно нашему профилю поведения, нашей идеологии, нашим желаниям. Означает ли это, что алгоритмы сближают нас?
М. Лайтман: Сближение между людьми?
Ведущая: Да.
М. Лайтман: Нет.
Ведущая: (11:40) Как он поместил нас в группы согласно нашим общим интересам, соединить нас, приблизив к технологии, говорит о том, что есть вещи… что это нас сближает, как людей? Если у нас есть общие интересы.
М. Лайтман: Я так не думаю. Они могут производить расчеты, и в соответствии с этими расчетами мы увидим, насколько мы сближаемся или отдаляемся друг от друга, насколько мы правильно или неправильно этим пользуемся. Но, в конечном счете, у нас нет возможности сделать что-то, чтобы мы почувствовали, что отданы в руки компьютера. Нет.
В конце концов, компьютер – это железка, сколько бы в нем ни было программ. Конечно же, он будет умнее с точки зрения расчета ситуаций и возможностей, потому что его скорость, на самом деле, может быть поразительной.
Но этого не может быть в отношении дополнений, которые исходят из души человека, когда мы нашим разумом можем себе представлять вещи, которые выше природы. Там вообще не может быть такого, чтобы мы что-нибудь порождали, создавали, выпускали, чтобы это было больше нас и вообще существовало.
Мы должны в точности различать, что происходит с возможностью компьютеров вычислять вещи, производить расчеты, от того, какие расчеты мы можем делать в наших желаниях: внутри знания, выше знания. Такие расчеты не находятся в рамках нашего мира.
Наш разум является всего лишь результатом желаний человека. А желания человека могут быть ради получения или ради отдачи. А компьютеры не могут представить себе эти желания. Только если мы распишем эти желания в виде плюсов и минусов, тогда в соответствии с этим они смогут производить расчеты такого рода в действиях, как мы в желании.
То есть в этом мы никогда не будем как компьютеры, а компьютеры не будут как мы, потому что они в этом ограничены, они существуют только для расчета. Даже если они будут делать миллиарды расчетов в секунду, это тоже не поможет им выйти из мира расчета в мир мыслей, фантазий и так далее.
Ведущая: (16:10) Алгоритмы социальных сетей были разработаны таким образом, чтобы мы уделяли больше внимания публикациям, которые подтверждают и усиливают то, что я, в общем-то, думаю. Можно ли предположить, что человек может развиваться без контакта с противоположной точкой зрения?
М. Лайтман: Человек может делать все, кроме передачи машине, железке, электричеству, электронам, чтобы они начали работать между собой в намерениях, в намерениях ради получения или ради отдачи ближнему. Ради себя или ради ближнего мы можем рассчитать. Но поменять одно намерение на другое – это компьютер никогда не сможет. И также мы, люди, мы тоже не можем.
Но то, что мы на самом деле можем сделать – это с помощью определенных действий вызвать внутреннюю силу, которая заложена в природе, которая называется «божественной» (Элокут), чтобы она помогла нам... Чтобы эта сила помогла нам изменить намерение, итог наших действий, ради чего мы это делаем. Вот так.
Ведущая: Природа человека состоит в том, чтобы человек бежал от того, что ему противоречит. Он не хочет слышать то, что отличается от его мнения. Как Вы думаете, нужно ли внести изменения в искусственный интеллект, чтобы поощрять интеграцию между противоположностями?
М. Лайтман: Я думаю, что мы никогда не сможем передать компьютеру, оперативной системе, чему-то, даже если мы начнем формировать компьютеры, создавать их из всевозможных свойств, из различных материалов, мы не сможем им передать возможность наших способностей, изменить цель наших действий ради получения или ради отдачи.
Мы не сможем спрограммировать, сделать, скажем, железо, не важно – это неживая, растительная или животная природа, кроме материала говорящего, что могут только особые люди, мы никогда это не сможем сделать... Поэтому не надо думать, что компьютеры смогут взять власть над людьми. Над неживой, растительной и животной природой смогут, и также над людьми, которые находятся на уровне неживом, растительном или животным, но не над теми, кто находится на уровне «говорящий».
Построить что-то выше уровня «человек», Адам, уровня не животного тела… Животное тело мы можем построить и представить себе это, и делать исходя из этого различные действия. Но на уровне «человек» (подобный Творцу, Адам), который может изменить цель своих действий с получения на отдачу, с ненависти на любовь, сколько бы мы не хотели это выполнить в каких-то приборах, мы это не сможем сделать, потому что это происходит только с помощью высшей силы, которая находится на уровне выше нашего.
Ведущая: (21:30) Как на Ваш взгляд, искусственный интеллект может упростить наше движение к духовному? Может быть можно как-то этим пользоваться?
М. Лайтман: Нет, тоже нет. Мы можем совершать такие действия, прописывать их, в каком виде учили нас в университете, но это всего лишь относительно простых действий в математике по складыванию и вычитанию, но не более того. Нет.
Я совершенно спокоен в отношении того, что никогда, то, что находится ниже уровня называемого «душа»… – человек сможет выполнять, но не на уровне души. Потому что это часть Творца свыше, а этого уровня мы не достигаем.
Мы можем взять оттуда силы и воспользоваться ими в нас, насколько мы можем облачиться на силу души, которую мы получаем свыше, но не то, чтобы мы формировали и создавали это.
Ведущая: Если бы можно было разработать алгоритм для улучшения существующей системы в обществе, что нужно было бы взять для этого алгоритма из науки каббала?
М. Лайтман: Это не проблема. Скажем, что у нас есть такой алгоритм, но как мы реализуем это? Потому что люди сами этого не хотят. Нам понятно, что не во благо людям, чтобы каждый относился с любовью к другому, «возлюби ближнего как самого себя. Но кто с этим согласен? Как мы это сможем реализовать?
Поэтому мы здесь находимся в тупике. Мы знаем как быть хорошими людьми, но ты видишь в мире, кто с этим согласен, чтобы это выполнять? Никто. Потому что наше злое начало, наша природа выше, больше, сильнее и она диктует нам, что мы должны делать.
Ведущая: Но существуют алгоритмы, чтобы использовать их, чтобы направлять наши мысли и мысли человечества в определенном направлении, как правило, в негативных вещах, чтобы навредить другим. Так в чем же решение, чтобы перевернуть это во что-то позитивное, что принесло бы благо людям, чтобы объединило их, чтобы помогло им?
М. Лайтман: Это сделает какой-то искусственный интеллект, какие-то компьютеры это могут сделать? Я вижу, что человек находится в этом состоянии выше всех возможностей и компьютеров. И поэтому он определяет, что он будет пользоваться ими только во зло другим, ведь все оружие, ракеты и так далее со всей нашей возможностью, со всеми нашими возможностями создавать что-то, мы думаем только о том, как сделать зло ближнему.
Поэтому и на будущее мы не должны думать, что мы с помощью искусственного интеллекта сможем выстроить лучший мир. По мере нашего продвижения, мир будет становиться все хуже, пока не разрушит себя. И только одно может помочь: если мы объясним всему человечеству, что у нас нет выбора, но не пользоваться искусственным интеллектом и всеми этими вещами.
То есть пользуйтесь, но знайте, что с помощью этого вы сможете только быстрее все разрушить. Мы должны думать как нам исправить человека, как нам создать «человека», построить его. А не как мы с помощью каких-то внешних приборов, программ, которые мы сами создаем, что мы с помощью этого придем к хорошей жизни. Этого не произойдет!
Ведущая: (26:58) Слышится как вывод этой передачи и как итог. Так в завершении этой передачи об искусственном интеллекте – возможно, что мы не сможем остановить это развитие. И вопрос: изменится, может быть, сам человек, чтобы использовать эти средства в другой форме, в правильной форме?
М. Лайтман: Есть только одна наука, называемая наукой каббала, которая объясняет кто мы, что мы, как мы можем изменить себя, исправить себя, и тогда мы придем к хорошему миру. Но это не с помощью искусственного интеллекта – это с помощью изменения самого человека.
Когда мы приведем человека к решению, когда он поймет, что если он не изменит себя со зла на добро, тогда его будущее может полностью привести к исчезновению и весь человеческий род исчезнет.
Ведущая: Так как же изменить человека, если так?
М. Лайтман: Объяснять. Объяснить каждому человеку. Мы можем построить массу приборов всевозможных и искусственных вещей, но в конечном счете это нам совершенно не поможет. Только бесконечное количество электронов будут бегать в разных приборах, но это не изменит человека.
Нам нужно изменить человека, будущее человечества – это в изменении самого человека. Здесь ни одна программа нам не поможет. Нам нужно много программ, нам нужно много знаний, но чтобы это все было направлено на то, чтобы человеку понять, что будущее человечества – это изменение самого человека.
Ведущая: К какому изменению нужно привести человека, чтобы он был более сочувствующий другим? Какие качества, какие характеристики должны быть у такого нового человека?
М. Лайтман: Должно быть свойство отдачи и любви, которое противоположно тому, что есть сейчас. В этом может быть помогут нам всевозможные приборы, потому что они будут нам показывать в разных формах, насколько мы тем, что хотим навредить друг другу, согласно нашей природе, по сути дела приводим себя к концу.
Ведущая: Мы подошли к завершению нашей передачи, но мы понимаем, что это должно быть началом нового взгляда, новой перспективой для человека.
М. Лайтман: Нам стоит когда-нибудь поговорить, как с помощью программ, компьютеров, всевозможных видов новой техники, как мы все-таки убеждаем человека, что ему необходимо изменить свою природу внутреннюю, а не передавать компьютерам свое будущее. Спасибо тебе.
Ведущая: Большое спасибо, доктор Лайтман. До следующего раза.
М. Лайтман: Всего доброго.
Набор: Команда синхронного набора