Месяц назад прошел очередной симпозиум «Сложность интеллекта». Его темой был вопрос «Зачем существует человек в свете наблюдаемого бурного развития ИИ и вытекающих из этого перспектив?»
Одним из постановочных докладов стала презентация Майкла Нильсена «Using Artificial Intelligence to Augment Human Intelligence» (Использование искусственного интеллекта для искусственного расширения интеллекта человека) – результат совместной работы Google Brain и YC Research, подробно изложенной в одноименном эссе.
Попробую кратко резюмировать основные мысли Майкла Нильсен и его соавтора – Шэн Картер, трансформировавших вопрос конференции «Зачем нужен человек?» в следующий вопрос -Зачем нужен компьютер?
Исторически так сложилось, что разные ответы на этот вопрос, т.е. различные взгляды на назначение вычислений, вдохновляли и определяли развитие компьютеров в течение 70 лет.
ENIAC, первый в мире электронный компьютер общего назначения, был создан для артиллерийских вычислений армии США. Последующие за ним первые компьютеры также использовались для решения численных задач, таких как моделирование ядерных взрывов, прогнозирование погоды и расчет движения ракет. Машины работали в пакетном режиме с использованием примитивных устройств ввода/вывода и без какого-либо взаимодействия в режиме реального времени.
Так сложилось первое вИдение назначения компьютеров, как числомолотилок для ускорения расчетов, которые раньше занимали недели и месяцы.
В 1960-х годах появилось другое вИдение того, какие компьютеры нужно делать и развивать.
Это видение было кристаллизовано в 1962 году, когда изобретатель компьютерного манипулятора «мышь» Дуглас Энгельбарт предложил,
чтобы компьютеры использовались, как способ усиление человеческого интеллекта.
С этой точки зрения, компьютеры из числомолотилок для решения вычислительных проблем должны были превратиться в интерактивные системы реального времени с богатыми ресурсами и изысканным интерфейсом, поддерживающими и расширяющими для людей их собственный процесс решения проблем.
Это видение расширения интеллекта (Intelligence Augmentation - IA) глубоко повлияло на многих исследователей (как, например, Алан Кей из Xerox PARC) и предпринимателей (как Стив Джобс из Apple) и привело ко многим ключевым идеям современных вычислительных систем.
Оно также глубоко повлияло на развитие цифрового изобразительного искусства и музыки, а также такие области, как интерактивный дизайн, визуализация данных, вычислительное творчество и взаимодействие человека и компьютера.
Исследования IA стали конкурировать с исследованиями в области AI: за финансирование, за интересы талантливых исследователей, за кадры …
И хотя между двумя направлениями всегда было перекрытие,
— IA обычно фокусировался на системах, позволяющим людям и машинам работать вместе,
— в то время как AI сосредоточился на полном аутсорсинге интеллектуальных задач компьютерам.
В частности, задачи для AI обычно ставились с точки зрения соответствия или превосходства компьютером человеческих качеств и возможностей: выиграть у человека в шахматы или Go; обучить распознаванию речи, изображений или переводу, более быстрому и качественному, чем у людей и т.д.
И вот новый подход – парадигма AIA
Image by Francesco Romoli www.russelaid.com
В эссе Майкла Нильсена и Шэн Картер описывается новая парадигма, появившаяся сегодня в результате синтеза AI и IA. Ее можно назвать
«Искусственное увеличение интеллекта
(Artificial Intelligence Augmentation - AIA).
Суть новой парадигмы - использование систем AI для разработки новых методов увеличения интеллекта.
Этот новый подход ставит важные новые фундаментальные вопросы, не связанные ни с одним из родительских направлений, поскольку принципы и системы AIA радикально отличаются от большинства существующих систем.
В эссе дается обзор некоторых из уже ведущихся работ, ориентированных на увеличение интеллекта человека с помощью искусственного интеллекта. Например, генерирующие интерфейсы, то есть интерфейсы, которые могут использоваться для изучения и визуализации т.н. генеративных моделей машинного обучения. Такие интерфейсы развивают своего рода картографию генеративных моделей, позволяющую людям в их творческом процессе исследовать и постигать новые смыслы с помощью того, что эти модели «знают» в исследуемых областях.
Авторы эссе уточняют, что это не просто технический обзор темы. Они фокусируют внимание на том, что сейчас самое подходящее время для постановки новых фундаментальных вопросов, лежащих в основе этого нового направления.
— В какой мере эти новые инструменты усиливают процессы творчества?
— Могут ли они использоваться для генерации идей, которые реально новые, или они воспроизводят клише идей, основанных на тривиальных рекомбинациях существующих идей?
— Могут ли такие системы использоваться для разработки принципиальных новых примитивов интерфейса? Как эти новые примитивы будут меняться и расширяться, помогая людям думать?
Две модели вычислений
Image by Francesco Romoli www.russelaid.com
В основе новой AIA парадигмы иная модель вычислений.
В существующей парадигме компьютеры являются машинами для решения проблем – получения ответов на конкретные вопросы.
— Скажи, компьютер, как изменить параметры артиллерийской наводки при таком-то ветре?
— Компьютер, какая максимальная температура будет в Токио через 5 дней?
— Компьютер, каков лучший ход, если на доске Go такое положение?
— Компьютер, как этот МРТ снимок должен быть классифицирован?
Эта концепция, родившаяся в «палеолите компьютинга», доминирует и сегодня не только в компьютинге, но и в AI. Она основана на модели компьютера, как средства для когнитивного аутсорсинга.
Оснащенный системой AI компьютер выступает в роли оракула, способного решить какой-то большой класс проблем с эффективностью, превосходящей человека.
Но в парадигме увеличения интеллекта человека совершенно иная концепция компьютинга и совершенно иная модель (роль) компьютера.
Чтобы понять этот альтернативный подход, рассмотрим наш субъективный опыт мышления.
Для многих людей этот опыт является вербальным: они думают, используя язык, формируя цепочки слов в их головах, похожие на предложения в речи или написанном тексте.
Для других людей мышление – это, скорее, визуальный опыт, включающий представления, такие как графики и карты.
Третья категория людей смешивает математику с собственными мыслями, используя алгебраические выражения или диаграммные методы, такие как диаграммы Фейнмана и Пенроуза.
В каждом случае мы думаем путем использования представлений, изобретенных другими людьми: слова, графики, карты, алгебры, математические диаграммы и т. д. Мы усваиваем эти когнитивные технологии по мере взросления и используем их в качестве своего рода субстрата для нашего мышления.
На протяжении большей части истории диапазон доступных когнитивных технологий менялся медленно и постепенно.
Постоянно появлялись новые слова и новые математические символы. Реже появлялись радикально новые когнитивные технологии.
Например, в 1637 году Декарт опубликовал свое «Рассуждение о методе», объяснив, как представлять геометрические идеи, используя алгебру, и наоборот (хотя теперь может показаться очевидным, замечательно, что геометрическая фигура и уравнение X^2 + Y^2 = 1 могут представлять один и тот же математический объект).
Сегодня в XXI веке ситуация в корне иная.
Современные компьютеры - это мета-среда, позволяющая быстро изобретать много новых когнитивных технологий!
Например:
Photoshop с его слоями, классами объектов и т.д.;
генеративные модели, в некотором роде, похожие на то, как работают научные теории - упрощают описание того, что представляется сложным явлением, сводя большое количество переменных к нескольким переменным, из которых можно вывести многие аспекты поведения системы;
инструментарий исследования скрытых пространств (например, Wekinator для музыки, TopoSketch для анимации и т.д.
Более того.
Системы машинного обучения могут помочь создавать представления и операции, которые послужат новыми примитивами мышления человека.
Что делать?
Нужно менять пути и методы взаимодействия человека и компьютера.
Новые интерфейсы должны основываться на разработке фундаментальных примитивов, с помощью которых люди думают и творят.
Интеллектуальный генезис этого пути восходит к изобретателям алфавита, картографии и музыкальной нотации, а также к титанам интеллекта - Декарт, Плейфэр, Фейнман, Энгельбарт и Кей.
Это одна из самых сложных, самых важных и самых фундаментальных проблем, с которыми сталкивается человечество.
До сих пор считалось, что наши компьютеры будут продолжать улучшаться в решении проблем, но люди останутся, в основном, без изменений.
Недавно появился новый взгляд, - люди будут модифицированы на аппаратном уровне, возможно, непосредственно через нейронные интерфейсы или косвенно через эмуляцию всего мозга.
Новая парадигма AIA предлагает третий путь, двигаясь по которому, AI фактически поменяет человечество, помогая людям изобретать новые когнитивные технологии, расширяющие диапазон человеческой мысли. Возможно, однажды, эти когнитивные технологии, в свою очередь, ускорят развитие AI по цепочке обратной связи. А те, в свою очередь, помогут еще более расширить инструментарий человеческого мышления.
Этот третий путь, возможно, мог бы позволить избежать Технологической сингулярности, предлагая вместо нее Человеческую Сингулярность неограниченного расширения диапазона человеческого мышления.
Конечно, все это пока что лишь перспектива. Но ситуацию можно и нужно изменить.
Сегодня ориентированные на AIA работы находятся вне основной повестки инвесторов и СМИ. Ведь эти исследования не приносят впечатляющих подвигов, типа избиения чемпионов мира в шахматы и Go.
Вместо этого они, например, предлагают перевести публикацию научных работ из формата PDF в специализированные интерактивные визуальные среды типа Distill.
Что это даст? Да «всего лишь» возможность людям понимать, мыслить и творить по-новому.