С момента релиза ChatGPT исполнился год

30 ноября состоялся год с запуска чат-бота – и жизнь многих технологических компаний изменилась. Технология очень быстро вошла в повседневную жизнь. И всего за 12 месяцев ни конкуренты OpenAI, ни крупные IT-компании и не думали, что ChatGPT станет самой быстрорастущей потребительской технологией в истории.

На данный момент платформу использует более 92% компаний из списка Fortune 500, а крупные корпорации создают и запускают собственные аналоги чат-ботов.

#ChatGPT


📷 BlueScreen | Digital Kazakhstan

🔒Любители отправлять голосовые сообщения в зоне особого внимания телефонных мошенников

В начале декабря Нацбанк предупредил казахстанцев о новом виде мошенничества с использованием поддельных голосов. Для это злоумышленники обзванивают граждан, чтобы записать образцы речи, и в дальнейшем могут представляться от их лица. Как обезопасить себя от кради голоса, Цифровой Орде рассказал эксперт по кибербезопасности Евгений Питолин.

Технология двойного назначения

Мошенничество с использованием голосовых дипфейков — это не что-то новое. Я лично знаю кейс, когда бухгалтеру подсовывали аудиосообщение от лица руководителя предприятия со ссылками на фейковую оплату. Это не считая массовых рассылок или рекламы финпирамид и тому подобного с использованием фейковых речей высокопоставленных лиц.

Важно сказать, что технологии имитации голоса задумувались для легитимных целей. Например, для локализации и озвучки различного медиаконтента, голосовых помощников, синтеза речи для людей с особыми потребностями и т.д.

Есть три основных подхода для создания голоса с помощью нейросетей:

⬇️Синтез речи — создание голоса с нуля на основе имеющейся базы записей.
⬇️Клонирование — копирование голоса нужного человека.
⬇️Конвертация — трансформация речи одного человека в голос другого, включая, интонации, тембр и т.д.

Мошенники обычно используют два последних. Для этого им требуется большое количество голосовых данных. Соответственно, компании использующие голосовые сервисы, должны обеспечивать их безопасность, включая средства проверки голоса.

Как мошенники используют голосовые дипфейки

Первые полноценные имитации речи появились в США и касались американских политиков. Наиболее опасными сценариями использования голосовых подделок можно назвать новые формы мошенничества.

Если раньше злоумышленники в основном отправляли текстовые сообщения, то теперь могут сопровождать их голосовыми дипфейками. История наших голосовых записей и сообщений хранится в кэше и облачных сервисах. А если мы открываем мессенджеры на компьютере, все эти данные попадают на ПК, который априори менее защищен в сравнении с iOS. Android же в принципе не защищен.

Выбрав себе цель, злоумышленники изучают ее контакты, взламывают устройства, чтобы получить доступ к голосовым записям. Далее они подменяют идентификатор мессенджера и от лица жертвы пишут ее друзьям и знакомым. Конечно, это не единственный способ, как мошенники воруют данные. Также это могут быть фейковые звонки и другие виды социальной инженерии.

Насколько доступны технологии имитации голоса?

Компаний, разрабатывающих подобные решения сегодня множество. Например, в этом году Microsoft запустила голосовую нейросеть VALL-E, способную имитировать голос вплоть для интонации. Компания сразу заявила, что это не open source технология, для ее использования нужно пройти проверку и заплатить.

К сожалению, среди мошенников есть и технически подкованные люди, либо же они нанимают IT-специалистов. При этом последние могут даже не знать, что работают на злоумышленников.
Учитывая такие риски, компании-разработчики должны ответственно подходить к вопросу публичной доступности своих решений. К слову, недавний конфликт OpenAI тоже возник из-за того, что одна сторона хотела совершенствовать и монетизировать технологию, а другая видела в этом опасность.

Как себя обезопасить?

Многие любят отправлять голосовые сообщения, иногда даже этим злоопутробляя. Такие пользователи первые в зоне риска за счет огромной базы аудиоданных, которую они записали. Соответственно, чем меньше голосовых сообщений отправляете, тем лучше.

Если же вам вдруг пришло аудиосообщение со странными просьбами, обратите внимание на качество записи. Если она слишком детализирована, например, голос отчетливо слышно на фоне шума улицы, это признак механической обработки речи.

Проще всего мошенникам обмануть старшее поколение, поэтому тут важно заранее предупредить пожилых родственников о возможных рисках и просить их всегда вам перезванивать в любой непонятной ситуации.

#Интервью #ИБ

@sandyq_orda – цифровизация