<figure><img src="https://res.cloudinary.com/dcsny9dt4/image/upload/v1779305806/Slide_4_3_-_8_rta7vo.png"></figure>
<h2>Что такое мультимодальность?</h2>
<p>Мультимодальность — это способность моделей обрабатывать и анализировать различные типы данных, такие как текст, изображения и видео. Вопрос, который часто возникает, касается того, как именно модели могут «видеть» видео. В этом контексте важно понимать, что современные модели, такие как <b>Gemini</b>, используют сложные алгоритмы для извлечения информации из видеопотока.</p>
<h2>Анализ видео с помощью различных моделей</h2>
<p>Недавно был проведён тест с использованием видео, в котором скрытое сообщение было закодировано в шуме. Модели <b>Work (Astra Ultra)</b> и <b>chatGPT</b> продемонстрировали свои способности в распознавании этого сообщения.</p>
<h3>Результаты работы модели Work (Astra Ultra)</h3>
<p>В видео, состоящем из чёрно-белых точек, была обнаружена надпись <b>WRITTEN IN GHOST FONT</b>. Анализ 179 кадров показал, что текст можно выделить, усредняя кадры по времени. Это подтверждает, что информация действительно присутствует в данных, хотя на отдельных кадрах она почти неразличима.</p>
<h3>Результаты работы chatGPT</h3>
<p>Модель chatGPT также смогла выявить скрытое сообщение. При усреднении кадров текст стал более читаемым, что подтверждает, что информация закодирована в динамическом шуме. Модель предложила несколько методов для дальнейшего анализа, включая временные разности и FFT.</p>
<h2>Интересные находки от Gemini</h2>
<p>Модель <b>Gemini</b> продемонстрировала свои возможности, выявив слово <b>ЦЫПЦЫН</b> в шуме на третьей секунде видео. Это подтверждает, что даже в условиях сильного шума можно извлечь информацию, если знать, как её искать.</p>
<h2>Заключение</h2>
<p>Тест на мультимодальность показал, что современные модели способны не только обрабатывать текст, но и анализировать видео, извлекая из него скрытую информацию. Это открывает новые горизонты для применения AI в различных областях, включая архитектуру и визуализацию. Для более подробной информации о возможностях нейросетей и их применении в архитектуре, посетите наш сайт.</p>
Нейро Отличник
www.neurootlichnik.ru