ИИ-шоу, которое мы заслужили

С интересом наблюдаю за ИИ-льной оперой, где Амодейчик возопил "Нам надо притормозить!". Ольтман - "Да, согласен". Муск - Дарио дело говорит. Демис Карибидис - надо созвать совещание по этому вопросу.

И тут старина Дональд: да вы охерели, зумеры, а кто будет Китай нахлобучивать!!

У меня есть циничная аналогия: даже если ИИ так опасен (предположим, что да), то сидит такой крупный поставщик вооружений и говорит "надо притормозить, оружие ведь может убить". Конкурирующий поставщик оружия: "Да, надо снизить темпы и разработку новых видов". Третий - вы правы!

Представили?

Я - нет.

Есть рефлексия, а есть государственные интересы. Которые, скажем так, в приоритете.

Пока от ИИ разом не погибнет значимое количество кожаных, никто ничего тормозить не будет.

Простите за цинизм.

Для тех, кто в танке, ниже хронология шоу.
<ol>
<li>9 сентября внутри Антропика подгорело. Исследователь Джейкоб Коксон ушёл из компании и заявил, что OpenAI и Anthropic «мчатся прямо к самоулучшающемуся суперинтеллекту». Его публично поддержали ещё два действующих исследователя Anthropic - глава alignment science Эван Хубингер и руководитель scalable oversight Сэмюэл Маркс.</li>
<li>12 сентября вышел Дарио Амодеи с эссе We Must Pace the Frontier. План из трёх ступеней: постоянные независимые аудиторы прямо внутри frontier-лабораторий; координация между компаниями демократических стран; затем попытка договориться глобально, прежде всего с Китаем.</li>
<li>И тут неожиданно образовался ИИ-бойз-бэнд. Илон Маск: «Dario is right». Сэм Альтман: «I agree with Dario that we need to pace the frontier» - причём OpenAI пообещала последовать конкретному предложению Амодеи и дать независимым оценщикам доступ уровня сотрудников. А вечером присоединился Демис Хассабис из Google DeepMind: направление правильное, детали надо дорабатывать. Сатья Наделла (Микрософт) сегодня тоже заговорил о том, что суперинтеллект имеет смысл только под человеческим контролем.</li>
<li>Однако есть нон-конформисты: CEO Cohere Айдан Гомес практически назвал предложение попыткой создать «картель»: мол, взрослые мальчики хотят получить механизм, при котором кто-то сможет решать, кто достаточно безопасен, а кто нет.</li>
<li>И тут выходит Трамп. В воскресенье в Ирландии его спрашивают, надо ли замедлить AI. Ответ: США впереди Китая, «whoever wins AI wins». А сегодня он бахнул, что единственный необходимый AI-«guardrail» - это «STRONG AND SMART (High IQ!) PRESIDENT», а разговоры против AI и дата-центров назвал «SICK conspiracy», выгодным Китаю. Амодеи отдельно досталось: Трамп обозвал его человеком, который теперь притворяется «perfect little angel».</li>
</ol>

Китайская государственная Global Times тем временем посмотрела на план Амодеи и объявила его .. ээ .. «Cold War playbook» против Китая. То есть Вашингтон считает замедление подарком Китаю, а Пекин считает предложение о замедлении американским заговором против Китая.

И тут рыночек, который решает: «CEO крупнейших AI-компаний говорят притормозить?» - Nvidia сегодня падала примерно на 3%, индекс полупроводников почти на 5%.

На сегодня все, ждем продолжения.

Нейро Отличник