Думаю, попробую провести небольшое Q&A о безопасности искусственного интеллекта. Задавайте вопросы и голосуйте за заданные другими по этой ссылке

Upd: оказывается, ссылка не открывается из России без VPN, можете задавать вопросы комментариями к этому посту

Начинаем через несколько минут. Можно продолжать задавать вопросы по ссылке и в комментариях

TED talk Юдковского наконец выложили
https://youtu.be/Yd0yQ9yxSYY | https://www.ted.com/talks/eliezer_yudkowsky_will_superintelligent_ai_end_the_world

(У него было четыре дня на подготовку. В начале опубликованной записи вырезано "You've heard that things are moving fast in artificial intelligence. How fast? So fast that I was suddenly told on Friday that I needed to be here. So, no slides, six minutes")

Китай на сегодняшнем Совбезе ООН: “The potential impact of AI might exceed human cognitive boundaries. To ensure that this technology always benefits humanity, we must regulate the development of AI and prevent this technology from turning into a runaway wild horse. […] We need to strengthen the detection and evaluation of the entire lifecycle of AI, ensuring that mankind has the ability to press the pause button at critical moments”

Давно не делился тут новостями!

Время от времени пишу в Твиттер. Например, попытался проверить скилл Юдковского удивляться вымыслу больше, чем реальности, но реальность отказалась быть удивительной (маловероятное стечение обстоятельств -> пранк не сработал): https://twitter.com/Mihonarium/status/1706219836727341146

Все средства, собранные на краудфандинге в 2018, официально потрачены (и ещё >миллиона сверху). Подробности и отчётность. 150 личных трёхтомников решил подарить за пожертвования на отправку книг победителям олимпиад и в библиотеки; ещё экземпляр можно получить за пожертвование в MIRI. (Пишите в личные сообщения, @Mihonarium)

Невозможно писать эти слова и не плакать. Навальный прожил жизнь героем. Невероятно смелым, умным и честным. Политиком, боровшимся за то, чтобы сделать Россию свободной и прекрасной. Он был убит Путиным после 1125 дней в тюрьме и умер героем. Россия и мир его не забудут; герои не умирают.

Глубочайшие соболезнования семье и коллегам Алексея.

Подлые, мерзкие, отвратительные сволочи. Они убили Навального через день после того, как сообщили, что обменяют его. Алексей мог бы сейчас быть на свободе.

https://youtu.be/jqevNxQ2T8Y

💔

https://navalny.com/p/6674/

Алексей был единственным политиком в истории России, который мог предложить использовать квантовый генератор случайных чисел в политических целях.

Саша (одна из моих самых близких друзей) запустила стартап про community management. Они на очень раннем этапе, но у них уже есть довольно крутой продукт и клиенты. Классные фичи вроде резкого уменьшения токсичности сообществ с помощью reward-shaping’а троллей: они останавливают друг друга от написания гадостей, потому что это приводит к автоматическому появлению/увеличению обязательной паузы между сообщениями. Если вам такое интересно (а предотвращение неконтролируемого экзистенциально опасного ИИ не интересно), идите к ним работать!

https://t.me/elidoc0rc/6305

We published a paper—with coauthors from Technion, Transformative Futures Institute, and US IC’s National Intelligence University.

We argue that to ensure audits are continuously robust to the rapidly evolving capabilities of AI systems, industry, auditors, safety advocates, ethicists, academia, and government regulators should all be collaborating on an inclusive organisation for audit standards setting.

Standards should draw from existing examples of industry best practices, including in the aviation and nuclear industries. As such, audits should focus on more than just evaluating the final product (the models), they should also assess the process behind it: the companies, their governance, and, critically, safety culture.

arxiv.org/abs/2404.13060

Исполнилось 24! 🎉

За последний год переключился на AI governance: стало понятно, что основной путь, которым человечество выживает — государства обращают внимание на проблему экзистенциального риска от искусственного интеллекта и глобально предотвращают запуск обучения таких моделей, какие потенциально несут угрозу человечеству.

Сейчас нахожусь в процессе запуска НКО, которая будет повышать осведомлённость о проблеме и повышать вероятность адекватной реакции со стороны правительств.

Ещё переехал в Англию.

ФБК сняли достроенный дворец Путина изнутри, на скрытую камеру.

У него там трон в часовне имени самого себя с довольно фашистскими интерьерами и даже уже наполненная водой аквадискотека.

Это было очевидно и три года назад, это ещё более очевидно сейчас: это дворец поехавшего диктатора. Только позолоты стало меньше и войны стало больше.

https://youtu.be/TL0dSaqhfVs

Там, где начальству не видно, строители дворца говорят:
«Лёха
ты был прав!»