Верхние строчки хит-парада одного из самых популярных на планете музыкальных сервисов на днях заняла никому ранее не известная группа. Пользователи, ставившие ей лайки, не подозревали, что три бодрых альбома сочинили не талантливые люди, а искусственный интеллект. Последние поколения нейросетей способны ввести в заблуждение любого. Они могут генерировать видео исключительной реалистичности. Не поверить глазам своим сложно. Почему верить всё же не стоит? Кто за это уже поплатился?
Только человечество приблизилось к мечте о том, что "вкалывать" будут роботы, как и тут появились недовольные. Опасность развития нейросетей предрекают не трудоголики, боящиеся остаться не у дел, а вечно тревожные пессимисты. Поводом для волнений стала рок-группа Velvet Sundown. Она внезапно появилась. Стала собирать в сети сотни тысяч слушателей. За месяц выпустила два альбома. Анонсировала третий. Но в творчестве таких скоростей не бывает. Так, собственно, и выяснилось, что музыканты-то не настоящие. Автор и исполнитель песен - искусственный интеллект.
Казалось бы, что тут такого? Нейросети и раньше писали музыку. Но тут случай особый. Слушатели поверили в реальность существования рок-коллектива.
"Полностью смистифицировали и группу, и музыку, и всю эту историю "под ключ", как говорится. В этом есть, конечно, новость. Но все к этому очень долго шло", - рассуждает Сергей Буланов, музыкальный критик.
Так как же теперь отличать реальную реальность от виртуальной? Похоже, что ряды параноиков пополнятся. Тем более что дальше - больше. Российские специалисты выпустили первый в истории кинематографа полнометражный фильм, полностью сгенерированный нейросетью. Говорят, это было неизбежно.
"Стоимость производства контента с помощью нейросетей, по нашим подсчетам, примерно в 600 раз ниже, чем стоимость голливудского блокбастера. Мы начали пробовать и у нас получился полный метр", - говорит Кирилл Калашников, исполнительный директор группы компаний по AI-продакшн и AI-маркетингу, режиссер и продюсер фильма "Чингисхан".
Дешевле, проще, быстрее. Как бы так не вышло, что скрипач, в смысле человек, не нужен.
"Я бы немножко прибрал эти разговоры о том, что нас что-то заменит. Или новый Чайковский, вдруг, из нейросети появится. Все это, конечно, с большой натяжкой. Хочется оставлять за собой право на какие-то такие творческие вещи", - говорит критик Буланов.
Действительно, далеко не каждый человек даже с использованием нейросети может создать что-то стоящее. Тот же полнометражный фильм “Чингисхан” делали 15 специалистов. Участвовали режиссеры, сценаристы, операторы, художники-постановщики, которые ставили для нейросети задачу. Ведь, только они понимают, что должно получиться на выходе.
"Это другое творчество, другой род творчества. Искусство, но вот немного другого формата. Эти люди говорят о том, что нас заменит нейросеть. Нет. С нейросетями нужно правильно взаимодействовать", - говорит Кирилл Калашников.
С другой стороны и научиться с ними взаимодействовать тоже можно. На первый взгляд, ничего сложного.
"Напиши, промт, пожалуйста, для видео, как Петр I, стоящий на пьедестале, отпускает руки от штурвала и ныряет в воду с этого корабля", - дает задание ИИ Михаил Степаненко, руководитель отделом промт-инженеров
Первые, черновые результаты у специалистов появляются уже через 20 минут. А через сутки Петр во всей красе, стоящий на Обводном канале, под крики чаек хватается за голову и прыгает в воду.
Но если в этом случае или в видео со старушкой, выгуливающей бегемота, все и так понятно, то как быть с фейками, в которых шутка не очевидна. Малазийский корреспондент рассказывает о живописной канатной дороге. Одна супружеская пара поверила в это и приехала в указанное место. Каково же было удивление туристов, когда выяснилось, что никакого фуникулера не существует. При этом на поездку они изрядно потратились. Получается, что в каждом видео теперь можно и нужно сомневаться.
"Появилось новое направление - это выделение дипфейков с помощью различных тех же самых алгоритмов искусственного интеллекта. То есть искусственный интеллект определяет искусственный интеллект", - говорит Михаил Городничев, декан факультета "Информационные технологии" МТУСИ.
Тем более, что нейросети теперь и на вооружении мошенников. Раньше считалось, что видео - это неопровержимое доказательство, истина последней инстанции. Теперь нет. Можно сгенерировать, родственника, друга, начальника. Да хоть президента. До сих пор идут споры, какой из этих двух роликов настоящий. На одном Трамп отказался от кофе в Саудовской Аравии, где это считается оскорблением. На другой с удовольствием пьет бодрящий напиток. А ведь международных скандалов и без дипфейков хватает.
"Чем дальше мы двигаемся в будущее, тем границы между реальностью и вымыслом стираются все сильнее. Через какое-то время, я уверен, на уровне стран, государств, может межнациональном уровне, эта сфера будет так или иначе регулироваться", - рассуждает Ярослав Игнатовский, политический консультант.
Пока же видео от нейросетей еще можно отличить от реальных, сильно приглядевшись. Однако индустрия развивается таким темпами, что скоро ролик, снятый на камеру, не будет отличаться от созданного в недрах компьютера.
"Это пока про будущее. Когда генерация будет полностью неотличима от съемки на камеру, вот как мы сейчас с вами делаем. Все очень очень быстро развивается. Думаю, ну год, два. Процесс, который такой незаметный, он пройдет для нас", - говорит Денис Димитров, основатель и руководитель проекта Kandinsky.
К прохождению этого процесса нужно быть готовым. Во многих странах отрасль уже законодательно регулируется. Задумываются об этом и у нас. Пока же от обмана спасет только собственное критическое мышление. А уверенным можно быть только в одном - этот сюжет для вас подготовили живые люди.