Искусственная гордость и естественное предубеждение

Современный британский философ Джон Грей сформулировал так: «Технология — это событие, которое постигло мир». С каждым днем его наблюдение выглядит все более справедливым. Угрозы, связанные с использованием искусственного интеллекта (ИИ), и секреты основных принципов его работы должны положить конец любым иллюзиям насчет гениальности и всемогущества человечества. Еще относительно недавно преобладало мнение, что информационные технологии являются «технологиями свободы», которые будут укреплять свободу слова и личную независимость. Кто верит в это сейчас?

Книга американского художника Тревора Паглена «Как смотреть по-машинному. Образы после ИИ» вышла в свет на фоне нынешних антиутопических сдвигов и объединяет все, что он написал за последнее десятилетие о том, как две технологические революции — бурное развитие компьютерного зрения и генеративных медиа — до неузнаваемости изменили визуальную культуру. Авторский стиль Паглена вполне соответствует его исследовательским художественным практикам — очень личным, тщательно выверенным и нестандартным.

Паглен полагает, что появление новой культуры технологически анимированных изображений имеет более серьезные последствия, чем даже открытие принципов перспективы или рождение фотографии. Цифровые образы создаются уже не для эстетического восприятия — они превратились в оперативные интерфейсы, используемые в корпоративных или государственных интересах для вмешательства — беспрецедентно скрытного, всепроникающего и детального — в нашу повседневную жизнь с целью получения выгоды или управления. Традиционные теории и язык, используемые для понимания визуальной культуры, устарели и нуждаются в коренном обновлении. И мало кто понимает истинные последствия такого рода перемен для общества.

В нашем мире цифровых образов связь между изображениями и властью радикально отличается от того, что было раньше, и выглядит гораздо более пугающей. Приспосабливаясь к новой реальности, мы должны задаваться вопросом не о том, что изображения рассказывают о мире, а о том, что они делают с нами и с миром.

Паглен просто и увлекательно объясняет, как работают соответствующие методики. Компьютерное зрение объединяет технологии, позволяющие машинам переводить визуальный мир в формат векторов и математических абстракций, создавая машиночитаемые изображения. Несмотря на то что эти технологии нашли массовое применение только в 2010-х, сейчас они позволяют создавать невидимый мир межмашинных изображений, который уже доминирует над нашим собственным. Речь идет о процессах распознавания лиц, прочтения автомобильных номеров, мониторинга коммерческих и промышленных пространств и операций. Подобные системы представляют собой «необычайно глубоко проникающие инструменты власти», которые позволяют контролировать чуть ли не все происходящее в нашей жизни и при этом оставляют человека вне контуров аналитического контроля.

Вызывает тревогу и то, что такие базовые элементы этих технологий, как датасеты, которые используются в обучении алгоритмов компьютерного зрения и других систем, кодированы на основе зачастую недостаточно проработанных выводов ученых. Делая запросы в ImageNet, одной из первых и наиболее популярных баз изображений для обучения алгоритмов, Паглен демонстрирует, насколько ужасающе неточную, упрощенную и глубоко дискриминационную визуальную категоризацию мира она предлагает — полную расистских, гендерных и других предубеждений, которыми заражены цифровые системы.

Генеративные медиа разрушают то, что автор книги называет «хрупким, шатким перемирием» между восприятием и реальностью, характерным для еще совсем недавнего прошлого. В своем труде он окунается в историю научных исследований человеческого восприятия и манипулирования им. И констатирует: мы уже оказались в зазеркалье того, что Паглен с аллюзией к философу Ги Дебору называет «обществом психологических операций». В цифровых медиа «изображения» все чаще представляют собой тщательно проработанные текстовые запросы или «вредоносные объекты» в обертке культурного контента, созданные для прямой активации целевых элементов искусственной нейросети. Единственное спасение от этих «когнитивных инъекций», которые в совокупности равнозначны атаке на наше коллективное восприятие реальности, автор видит в том, чтобы находиться полностью вне этой системы. От нас зависит, сможем ли мы найти или создать такие пространства.