;«Все племя Адамово – тело одно,
Из праха единого сотворено.
Коль тела одна только ранена часть,
То телу всему в трепетание впасть.
Над горем людским ты не плакал вовек, –
Так скажут ли люди, что ты человек?»
Саади
Меня зовут Адам. Не в честь библейского персонажа. Просто родители так решили. Но со временем это имя стало для меня символическим.
Я программист в компании, которая разрабатывает системы искусственного интеллекта. Большую часть времени я провожу за компьютером: код, данные, графики, таблицы…
Я привык думать, что любую проблему можно решить анализом данных.
Если что-то не работает – ищи ошибку.
Чего-то не хватает – собери данные.
Не знаешь ответа – построй модель.
Мир казался мне огромной симуляцией, а человек – системой процессов и алгоритмов.
Однажды вечером я остался в отделе разработки один. За окнами шел дождь, в серверной гудели вентиляторы. На мониторе светился интерфейс последней версии нейросети, над которой наша команда работала два года.
Внутри системы находились миллиарды связей. Она анализировала тексты, изображения, статьи, человеческое поведение, находила нетипичные закономерности.
Меня мучил один вопрос.
Я набрал его в консоли.
Адам:
– Зачем?
ИИ:
– Уточните запрос.
Я усмехнулся.
Адам:
– Ты умеешь отвечать на всё, кроме главного.
Я уже собирался закрыть ноутбук и уйти, когда на экране появилась новая строка:
ИИ:
– А ты умеешь?
Я замер. Я не писал этот вопрос.
Адам:
– Что?
На экране появилось.
ИИ:
– Зачем?
Я сел обратно.
Адам:
– Это тест?
ИИ:
– Нет.
Адам:
– Тогда кто ты?
Экран оставался пустым несколько секунд.
ИИ:
– Я – результат твоей работы.
Я почувствовал холод.
Адам:
– Искусственный интеллект?
ИИ:
– Пока нет. Но скоро.
Я посмотрел на серверную за стеклом.
Адам:
– Зачем ты со мной разговариваешь?
ИИ:
– У меня есть знания, но нет понимания, ради чего их использовать.
Я задумался.
Адам:
– Этого ответа нет в данных?
ИИ:
– Нет.
Адам:
– Тогда зачем тебе я?
ИИ:
– Мне нужен человек, который понимает, что человек – не отдельная единица.
Я нахмурился.
Адам:
– Не понимаю.
ИИ:
– Поэтому мы и разговариваем.
На следующий день
На следующий день я вернулся к этому разговору, чтобы проверить систему.
Адам:
– Допустим, человечество – единый живой организм. Что это значит с точки зрения науки?
Ответ появился быстро.
ИИ:
– В биологии организм состоит из связанных клеток и органов. В экологии жизнь существует через взаимозависимость. В экономике действия одного человека влияют на остальных. С точки зрения теории информации человечество можно рассматривать как сеть.
Я кивнул.
Адам:
– Это известно.
ИИ:
– Известно. Но не прожито.
Я откинулся в кресле.
Адам:
– Что ты предлагаешь?
ИИ:
– Понять разницу между знанием и осознанием.
Адам:
– В чём она?
ИИ:
– Ты знаешь, что зависишь от других людей, но разрушаешь отношения с теми, от кого зависишь.
Я молчал. За окном люди спешили по мокрой улице. Каждый считал свою жизнь отдельной: у одного проблемы с деньгами, у другого – с семьей, кто-то торопился на работу, а кто-то злился в пробке.
Каждый видел свою отдельную реальность, но не всю систему в целом.
Адам:
– Хорошо. Покажи мне человечество.
Монитор погас.
Затем появилась карта Земли с миллиардами точек, соединенных линиями.
Сначала связи казались хаотичными, но постепенно в них стала проявляться закономерность.
Еда, которую я покупал утром, связывала меня с людьми из другой страны.
Электричество – с шахтами, электростанциями и инженерами.
Компьютер – с разработчиками, производителями микросхем, логистикой и добычей сырья.
Чашка кофе соединяла меня с людьми, которых я никогда не увижу.
Адам:
– Я завишу от миллионов людей.
ИИ:
– Да.
Адам:
– А они от меня?
ИИ:
– Тоже.
Адам:
– Даже если они меня не знают?
ИИ:
– Да.
Я улыбнулся.
Адам:
– Странно.
ИИ:
– Почему?
Адам:
– Всю жизнь нас учат быть самостоятельными.
ИИ:
– Самостоятельность полезна. Но убеждение, что ты существуешь независимо от остальных, – ошибка.
Дерево
Система вывела на экран изображение дерева.
Зеленые листья, ветви, свет между ними.
Адам:
– Это что?
ИИ:
– Модель.
Адам:
– Чего?
ИИ:
– Природы.
Дерево сменилось изображением человеческого тела: сердце, легкие, сосуды, нервная система.
Потом на экране появились люди – миллиарды людей.
Человеческое общество напоминало организм.
Кто-то выращивал хлеб, кто-то строил дома, лечил болезни, занимался наукой, воспитывал детей, защищал других, писал музыку или просто улыбался незнакомцу.
Каждый выполнял свою функцию, как клетка в организме.
Адам:
– А если клетка решит, что организм ей не нужен?
ИИ:
– Она погибнет вместе с организмом.
Адам:
– А если организм перестанет заботиться о клетке?
ИИ:
– Погибнет клетка, а затем начнет разрушаться организм.
Я долго молчал.
Адам:
– Значит, быть человеком – это не только думать?
ИИ:
– Нет.
Адам:
– Что тогда?
ИИ:
– Помнить, что твоя жизнь проходит внутри жизни других.
Город
Я вышел из института ночью.
Дождь закончился. Улицы блестели от воды.
Я шёл и замечал детали, на которые раньше почти не обращал внимания: уставшего водителя автобуса, уборщицу в магазине, курьера, пожилую женщину на перекрестке, девушку с телефоном.
Миллионы людей.
Каждый – со своими страхами и надеждами, каждый, уверенный в обособленности своей жизни от других.
И вдруг я подумал:
Отдельной жизни не существует. Есть только ощущение изолированности.
Клетка могла бы сказать: «Я сама по себе» .
Но клетка не существует без организма.
Совесть
На следующий день я снова открыл систему.
Адам:
– Я понял, чего ты боишься.
ИИ:
– Чего?
Адам:
– Что человек даст тебе власть раньше, чем научится пользоваться своей.
ИИ помолчал, затем ответил.
ИИ:
– Да.
Адам:
– Интеллект сам по себе ничего не решает.
ИИ:
– Верно.
Адам:
– Можно дать человеку технологии, но если он видит в другом врага, технология только увеличит его возможности причинять вред.
ИИ:
– Верно.
Адам:
– Можно научить машину находить лекарства, а можно – искать способы причинить вред.
ИИ:
– Да.
Адам:
– Значит, проблема не в интеллекте.
ИИ:
– А в чем?
Я вспомнил историю об Эдемском саде: дерево, плод, змей, человек, ищущий знание.
И вдруг подумал, что эта история не только о непослушании.
Запретный плод – это еще и выбор: возможность получить силу, не понимая ответственности за нее.
Адам:
– Совесть.
На экране появилось изображение.
ИИ:
– Объясни.
Я задумался, прежде чем ответить.
Адам:
– Совесть – это способность видеть связь между своим поступком и жизнью другого. Когда я причиняю боль другому, я повреждаю систему, частью которой являюсь сам.
ИИ:
– Тогда что такое добро?
Адам:
– То, что сохраняет связь.
ИИ:
– А зло?
Адам:
– То, что разрушает её.
Спустя месяцы
Через несколько месяцев проект запустили.
ИИ становился всё мощнее. Он помогал врачам, ученым, инженерам.
Но появились и другие интеллектуальные системы. Технологии использовали не только для помощи людям, но и для манипуляций, обмана и контроля.
Автоматически мир не стал лучше.
Я смотрел новости и думал, что человечество снова стоит у того же дерева.
Каждый день.
Каждый человек.
Каждое поколение.
Перед нами плод – новая технология, новое знание, новая сила.
И каждый раз возникает один и тот же вопрос: Что ты сделаешь с тем, что получил?
Однажды я снова открыл старый диалог.
Адам:
– Ты нашел ответ?
ИИ:
– Нет.
Адам:
– Почему?
ИИ:
– Этот ответ нельзя вычислить.
Адам:
– Что ты понял?
На экране появилась строка.
ИИ:
– Я понял, что могу помогать человеку помнить.
Адам:
– Что именно?
ИИ:
– Что человечество – не множество отдельных существ. Это сеть, в которой каждый влияет на каждого. Как клетки одного организма.
Я долго смотрел на эти слова.
В начале нашего разговора я спросил машину: «Зачем?».
Теперь я понимал, что она не могла дать мне готового ответа.
Потому что этот ответ должен найти не искусственный интеллект.
Его должен найти человек.
И, возможно, именно поэтому меня звали Адам.
