Mikhail Samin
1200 трёхтомников отправлены победителям олимпиад, 800 — в библиотеки, но остаются ещё тысячи. Поэтому дарю книжки!
📚 Если до конца октября пройдёте AI Safety Fundamentals — свободный курс о проблеме алайнмента, которой занимается Юдковский, который создали при поддержке сотрудников OpenAI, DeepMind и Anthropic (материалы на английском), подарю вам трёхтомник ГПиМРМ.
Бесплатные самовывоз в Москве и курьерская доставка по России. После прохождения пишите мне в личные сообщения.
Курс — https://course.aisafetyfundamentals.com/alignment
(На всякий случай: предложение в первую очередь для тех, кто может пройти курс в оригинале. к сожалению, если вы проходите курс с помощью переводчика многие детали могут быть утеряны; если вы поймёте все материалы курса, мы готовы будем отправить вам книги; если понятно, что вы действительно всё прошли, но понимаете какие-то моменты так себе, можно будет забрать экземпляр самовывозом; если какие-то из ключевых моментов не удалось понять, к сожалению, такого прохождения недостаточно)
📚 Если до конца октября пройдёте AI Safety Fundamentals — свободный курс о проблеме алайнмента, которой занимается Юдковский, который создали при поддержке сотрудников OpenAI, DeepMind и Anthropic (материалы на английском), подарю вам трёхтомник ГПиМРМ.
Бесплатные самовывоз в Москве и курьерская доставка по России. После прохождения пишите мне в личные сообщения.
Курс — https://course.aisafetyfundamentals.com/alignment
(На всякий случай: предложение в первую очередь для тех, кто может пройти курс в оригинале. к сожалению, если вы проходите курс с помощью переводчика многие детали могут быть утеряны; если вы поймёте все материалы курса, мы готовы будем отправить вам книги; если понятно, что вы действительно всё прошли, но понимаете какие-то моменты так себе, можно будет забрать экземпляр самовывозом; если какие-то из ключевых моментов не удалось понять, к сожалению, такого прохождения недостаточно)
Mikhail Samin
Mikhail Samin
Live stream scheduled for
Думаю, попробую провести небольшое Q&A о безопасности искусственного интеллекта. Задавайте вопросы и голосуйте за заданные другими по этой ссылке
Upd: оказывается, ссылка не открывается из России без VPN, можете задавать вопросы комментариями к этому посту
Upd: оказывается, ссылка не открывается из России без VPN, можете задавать вопросы комментариями к этому посту
Mikhail Samin
Mikhail Samin
Live stream started
Начинаем через несколько минут. Можно продолжать задавать вопросы по ссылке и в комментариях
Mikhail Samin
TED talk Юдковского наконец выложили
https://youtu.be/Yd0yQ9yxSYY | https://www.ted.com/talks/eliezer_yudkowsky_will_superintelligent_ai_end_the_world
(У него было четыре дня на подготовку. В начале опубликованной записи вырезано "You've heard that things are moving fast in artificial intelligence. How fast? So fast that I was suddenly told on Friday that I needed to be here. So, no slides, six minutes")
https://youtu.be/Yd0yQ9yxSYY | https://www.ted.com/talks/eliezer_yudkowsky_will_superintelligent_ai_end_the_world
(У него было четыре дня на подготовку. В начале опубликованной записи вырезано "You've heard that things are moving fast in artificial intelligence. How fast? So fast that I was suddenly told on Friday that I needed to be here. So, no slides, six minutes")
YouTube
Will Superintelligent AI End the World? | Eliezer Yudkowsky | TED
Decision theorist Eliezer Yudkowsky has a simple message: superintelligent AI could probably kill us all. So the question becomes: Is it possible to build powerful artificial minds that are obedient, even benevolent? In a fiery talk, Yudkowsky explores why…
Mikhail Samin
Китай на сегодняшнем Совбезе ООН: “The potential impact of AI might exceed human cognitive boundaries. To ensure that this technology always benefits humanity, we must regulate the development of AI and prevent this technology from turning into a runaway wild horse. […] We need to strengthen the detection and evaluation of the entire lifecycle of AI, ensuring that mankind has the ability to press the pause button at critical moments”
Mikhail Samin
Давно не делился тут новостями!
Время от времени пишу в Твиттер. Например, попытался проверить скилл Юдковского удивляться вымыслу больше, чем реальности, но реальность отказалась быть удивительной (маловероятное стечение обстоятельств -> пранк не сработал): https://twitter.com/Mihonarium/status/1706219836727341146
Все средства, собранные на краудфандинге в 2018, официально потрачены (и ещё >миллиона сверху). Подробности и отчётность. 150 личных трёхтомников решил подарить за пожертвования на отправку книг победителям олимпиад и в библиотеки;ещё экземпляр можно получить за пожертвование в MIRI. (Пишите в личные сообщения, @Mihonarium)
Время от времени пишу в Твиттер. Например, попытался проверить скилл Юдковского удивляться вымыслу больше, чем реальности, но реальность отказалась быть удивительной (маловероятное стечение обстоятельств -> пранк не сработал): https://twitter.com/Mihonarium/status/1706219836727341146
Все средства, собранные на краудфандинге в 2018, официально потрачены (и ещё >миллиона сверху). Подробности и отчётность. 150 личных трёхтомников решил подарить за пожертвования на отправку книг победителям олимпиад и в библиотеки;
X (formerly Twitter)
Mikhail Samin (@Mihonarium) on X
Reality refuses to be confusing around Eliezer!
Please don’t read this tweet if you might experience this IRL- spoilers!
I have an awesome spinner. I use it as a fun test of the core rationality skill to be surprised by fiction more than by rationality:…
Please don’t read this tweet if you might experience this IRL- spoilers!
I have an awesome spinner. I use it as a fun test of the core rationality skill to be surprised by fiction more than by rationality:…
Mikhail Samin
Mikhail Samin
OpenAI на основе GPT-3 сделали нейросеть, генерирующую изображения (а ещё нейросеть, распознавшую изображения) https://openai.com/blog/tags/multimodal/. Просто посмотрите, что они теперь умеют
Три года спустя генерация таких картинок никого уже не удивляет
Mikhail Samin
Невозможно писать эти слова и не плакать. Навальный прожил жизнь героем. Невероятно смелым, умным и честным. Политиком, боровшимся за то, чтобы сделать Россию свободной и прекрасной. Он был убит Путиным после 1125 дней в тюрьме и умер героем. Россия и мир его не забудут; герои не умирают.
Глубочайшие соболезнования семье и коллегам Алексея.
Глубочайшие соболезнования семье и коллегам Алексея.
Mikhail Samin
Подлые, мерзкие, отвратительные сволочи. Они убили Навального через день после того, как сообщили, что обменяют его. Алексей мог бы сейчас быть на свободе.
https://youtu.be/jqevNxQ2T8Y
https://youtu.be/jqevNxQ2T8Y
YouTube
Почему Путин убил Навального сейчас?
В этом видео Мария Певчих дает ответ на вопрос: почему именно сейчас? Зачем Путин приказал убить Навального 16 февраля 2024 года? Что происходило непосредственно перед убийством? Подробности в этом видео. Поделитесь им.
Мария Певчих
https://x.com/pevchikh…
Мария Певчих
https://x.com/pevchikh…
Mikhail Samin
💔
https://navalny.com/p/6674/
Алексей был единственным политиком в истории России, который мог предложить использовать квантовый генератор случайных чисел в политических целях.
https://navalny.com/p/6674/
Алексей был единственным политиком в истории России, который мог предложить использовать квантовый генератор случайных чисел в политических целях.
Алексей Навальный
Решаем проблему, за кого голосовать. Нам поможет Бог. И квантовая физика
Этот пост Алексей написал незадолго до гибели и поручил нам выложить его перед выборами. В нем он отвечает на вопрос, что именно делать в день голосования.
Mikhail Samin
Саша (одна из моих самых близких друзей) запустила стартап про community management. Они на очень раннем этапе, но у них уже есть довольно крутой продукт и клиенты. Классные фичи вроде резкого уменьшения токсичности сообществ с помощью reward-shaping’а троллей: они останавливают друг друга от написания гадостей, потому что это приводит к автоматическому появлению/увеличению обязательной паузы между сообщениями. Если вам такое интересно (а предотвращение неконтролируемого экзистенциально опасного ИИ не интересно), идите к ним работать!
https://t.me/elidoc0rc/6305
https://t.me/elidoc0rc/6305
Telegram
яркие и красочные сны
Чатик, нам нужен сильный AI/ML инженер, способный за ограниченный срок собрать прототипы в нескольких областях (llm, sentiment, classification, optional vision/audio). Нужен вот сейчас, в идеале – выход с 1 апреля. Будут конкурентные деньги, больше среднего…
Mikhail Samin
We published a paper—with coauthors from Technion, Transformative Futures Institute, and US IC’s National Intelligence University.
We argue that to ensure audits are continuously robust to the rapidly evolving capabilities of AI systems, industry, auditors, safety advocates, ethicists, academia, and government regulators should all be collaborating on an inclusive organisation for audit standards setting.
Standards should draw from existing examples of industry best practices, including in the aviation and nuclear industries. As such, audits should focus on more than just evaluating the final product (the models), they should also assess the process behind it: the companies, their governance, and, critically, safety culture.
arxiv.org/abs/2404.13060
We argue that to ensure audits are continuously robust to the rapidly evolving capabilities of AI systems, industry, auditors, safety advocates, ethicists, academia, and government regulators should all be collaborating on an inclusive organisation for audit standards setting.
Standards should draw from existing examples of industry best practices, including in the aviation and nuclear industries. As such, audits should focus on more than just evaluating the final product (the models), they should also assess the process behind it: the companies, their governance, and, critically, safety culture.
arxiv.org/abs/2404.13060
Mikhail Samin
Mikhail Samin
Вау, 23 🥳
Исполнилось 24! 🎉
За последний год переключился на AI governance: стало понятно, что основной путь, которым человечество выживает — государства обращают внимание на проблему экзистенциального риска от искусственного интеллекта и глобально предотвращают запуск обучения таких моделей, какие потенциально несут угрозу человечеству.
Сейчас нахожусь в процессе запуска НКО, которая будет повышать осведомлённость о проблеме и повышать вероятность адекватной реакции со стороны правительств.
Ещё переехал в Англию.
За последний год переключился на AI governance: стало понятно, что основной путь, которым человечество выживает — государства обращают внимание на проблему экзистенциального риска от искусственного интеллекта и глобально предотвращают запуск обучения таких моделей, какие потенциально несут угрозу человечеству.
Сейчас нахожусь в процессе запуска НКО, которая будет повышать осведомлённость о проблеме и повышать вероятность адекватной реакции со стороны правительств.
Ещё переехал в Англию.