Вадим Эпштейн: «Главный навык — не искать, а фильтровать»

23 сентября 2021 г.Михаил Лузин
Вадим Эпштейн: «Главный навык — не искать, а фильтровать»

Что общего у истории и памяти с обучаемыми нейросетями, какие проблемы может решить искусственный интеллект и какие может создать? Об этом в своей лекции «История и память в эпоху нейросетей и новых медиа» 6 сентября в Ельцин Центре в Екатеринбурге рассказал Вадим Эпштейн — мультимедиа-художник, теоретик и практик, в прошлом IT-консультант и автор статей по теоретической физике.

Вадим работает на стыке генеративных и фигуративных методов, а последние годы плотно занимается нейросетевыми технологиями. По его словам, информация — базовая ценность и материя всех процессов в современном мире. Для машин она сырьё, для человека — основа личного опыта, определяющего его персональную реальность. Как технологические новшества связаны с формированием и восприятием индивидуальной и исторической памяти? Что нейросети и современная информационная среда привносят в наше понимание истории?

Прежде чем ответить на поставленные вопросы, исследователь попытался прояснить терминологию, отталкиваясь от понятия времени.

— Есть временная шкала. В этой шкале и пространстве происходят события, и мы смотрим на них с одной конкретной точки зрения, выстраивая личную позицию. Это называется «памятью». Память в этом смысле — представление прошлого в точке настоящего, комплекс разрозненных данных, влияющий на дальнейшую активность и принятие решений, на жизнь того, кто смотрит. Выбор оценки и приоритета в этом случае индивидуален и прихотлив. Память сродни человеческому зрению: мы вытаскиваем несколько пятнышек из общей картины и достраиваем до другой картины, а в следующий раз можем вытащить другие пятнышки. В случае с памятью задача объективности не стоит, это выжимка эмоционально окрашенного опыта в экстракт интуиции для принятия решений.

Но можно смотреть на события, факты, действия и тенденции не с одной субъективной точки, а с нескольких разных, в той или иной степени объективно их охватывая, — говорит художник. — Это называется историей. История — это представление прошлого в произвольной точке: мы можем отстраниться от субъективного взгляда и увидеть многое сразу. И если в случае с памятью в приоритете время, то в случае с историей в приоритете находятся связи. Необходимо их выявить, чтобы сделать те или иные выводы.

– Применительно к нейросетям существует параллель между механизмами памяти и архитектурой ранних сверхточных однопроходных сетей, — сказал Вадим Эпштейн, — события в них поступают цепочкой по времени, и пока они не обработаны, мы не можем перескочить к следующему событию.

Исторический же подход напоминает архитектуру современных нейросетей, а именно нейросети-трансформеры. Они нацелены на обработку больших объёмов данных. Искусственный интеллект (ИИ) складывает массивы и очень быстро находит взаимосвязи и важные акценты во всём объёме информации. Далее он работает уже не с однородным набором данных, а с «тепловой картой», и показывает очень эффективные результаты в разных отраслях человеческой деятельности.

По словам Вадима Эпштейна, это напоминает работу истории как науки: мы не привязаны к одной точке зрения, смотрим на картину с разных сторон и уделяем основное внимание не отдельным фактам и практикам, а взаимосвязям между ними и тенденциям.

— При качественном подходе к истории, если под ней понимать накопленные человечеством знания и умения, отдельные факты неважны. Мало того, что их сложно проверить и им не всегда можно верить. Они не очень существенны, так как из них мы не сможем сделать корректных выводов. Для таких выводов нам нужны связи и тенденции. Более того, если у нас в распоряжении будет достаточно мощная архитектура — нейросети-трансформеры, — она будет способна отсеять весь информационный мусор и фейки и дать стопроцентно верифицированную картину реальности.

По словам Вадима Эпштейна, объем цифровой информации сегодня настолько велик, что главный навык пользователя сейчас — это не искать, а фильтровать информацию, отбиваться от лишнего. Исследователь назвал это явление «гиперкогнитивностью» — когда на расстоянии 1-2 кликов можно выудить информацию о том, что произошло минуту назад в соседнем дворе, и о том, что случилось пять тысяч лет назад. «Это мешает нашему взгляду и пониманию, так как стирается дистанция и искажается перспектива», — уверен он.

В современном мире, считает эксперт, цифровая среда стала своего рода extended mind. Ей уже делегированы функции сбора и хранения данных, а с развитием нейросетей делегируются ещё и функции выводов и понимания. Таким образом, из инфосферы на наших глазах формируется когнисфера.

Технологии искусственного интеллекта могут не только подытожить деятельность человеческого мышления, но и помочь в создании новых сфер деятельности. Например, в творчестве это нейровиджеинг — при наличии определённого количества наработанного материала можно научить модель делать на их основе новые паттерны. Пример подобной работы Вадим Эпштейн продемонстрировал на экране во время лекции.

Внедрение нейросетей в повседневность несёт и определённые проблемы. Например, это так называемые дипфейки — намеренная цифровая подделка реальности, самым безобидным примером которой является вставка своего фото в какой-либо известный фильм.

Дипфейки безобидны, считает Эпштейн, пока используются относительно точечно, но тенденция по их применению будет только усиливаться — разработчики заявляют, что это уже не дипфейки, а синтетик-медиа. Разработчики создают фейковые онлайн-личности с историей, характером, собственной логикой. В качестве примера художник привёл сервис рерайтинга текстов wordai.com, а также сайт synthesia.io с «говорящими головами» — электронными дикторами, в уста которых можно вложить любую фразу.

Следующая проблема — это колоссальное накопление объёма неавторизованных данных. По словам Вадима Эпштейна, для обучения нейросетей необходимо прогнать через них огромное количество информации, но, поскольку собирать данные сложно и дорого, доминирующей стала тенденция вместо сбора данных синтезировать их.

— С технической точки зрения эта благая идея удешевляет процесс и даже улучшает его. Но с базовой человеческой точки зрения и здравого смысла у таких синтезированных данных пропадают аутентичность, историчность и так далее. Люди думают, что мы представим нейросети фейковую реальность и она сделает фейковые выводы.

Наконец, нейросети размывают авторское право. «Отмывка копирайтов и зачистка происхождения данных — фундаментальное свойство нейросетей. Этому можно радоваться или отвергать, но это факт, имманентно присущее им свойство. В связи с этим происходит сильное размывание ответственности за исходящие из нейросети данные, — говорит Вадим Эпштейн.

Вместе с тем исследователь предостерёг слушателей в равной степени как от опасений относительно искусственного интеллекта, так и от чрезмерных надежд на него. В качестве примера привёл сюжет с разработкой беспилотных автомобилей.

— Обучение самоуправляемых автомобилей — это гигантская задача. При прокладке дорог и кабелей возник технический термин «последняя миля». Смысл здесь в том, что достаточно просто и дёшево проложить полотно через полконтинента, но довести его до нужного места иногда дороже, чем преодолеть тысячи километров. В случае обучения самодействующих механизмов эта проблематика очень сильно ощущается, что связано с разнообразием ситуаций, в которые может попасть беспилотник. В 95 процентах случаев прописать алгоритм действий очень легко, в следующие три процента придётся поднапрячься, предпоследний процент — сложнее, чем предыдущие 98, а последний надо преодолевать по крупинкам. Поэтому тестовые машины ездят, но повсеместное внедрение технологии всё откладывается и откладывается. И есть ещё один важный момент, который бы я выделил в отдельный пункт, — это вопрос об авторстве ответственности за действия нейросети.

Другие новости

Книги

«Неизвестный Ельцин»: новые документы, фото, свидетельства

«Неизвестный Ельцин»: новые документы, фото, свидетельства
К 92-летию первого президента России в издательстве «Кабинетный учёный» вышла книга «Неизвестный Ельцин». Автор – сотрудник Музея Б.Н. Ельцина Рамзия Галеева.
28 января 2023 г.
Лекция

Историческая память о Гражданской войне: от пропаганды к демифологизации

Историческая память о Гражданской войне: от пропаганды к демифологизации
Как формировалась историческая память о Гражданской войне в России? Когда сложился пантеон советских героев Гражданской войны? Какую роль в создании официальной истории Гражданской войны в СССР сыграл…
25 января 2023 г.
Новый год

Встречи с коллекционерами в «Гостиной под абажуром»

Встречи с коллекционерами в «Гостиной под абажуром»
Праздничные дни Нового года в Ельцин Центре прошли в формате тёплых камерных встреч под девизом «В тишине и со своими». Мастер-классы, просмотры любимых мультфильмов, музыкальные концерты и встречи с …
21 января 2023 г.

Льготные категории посетителей

Льготные билеты можно приобрести только в кассах Ельцин Центра. Льготы распространяются только на посещение экспозиции Музея и Арт-галереи. Все остальные услуги платные, в соответствии с прайс-листом.
Для использования права на льготное посещение музея представитель льготной категории обязан предъявить документ, подтверждающий право на использование льготы.

Оставить заявку

Это мероприятие мы можем провести в удобное для вас время. Пожалуйста, оставьте свои контакты, и мы свяжемся с вами.
Спасибо, заявка на экскурсию «Другая жизнь президента» принята. Мы скоро свяжемся с вами.