У моей сестры очень классная собака, зовут Скай. Умная, весёлая и милая. Я уехал из России 25 февраля, она по мне очень скучает.

Часов в 20 собака лаяла на дверь. Сестра не стала выглядывать и смотреть. Примерно в девять сестра собиралась выйти гулять. В 21:04 мне позвонили с номеров +7 (993) 210-92-58 и +1 (949) 212-3691. Называли по имени «Миша», уточняли, я ли это, после чего возникала тишина. Через минуту, в 21:05, мне видеозвонком позвонила сестра, которая вышла с собакой гулять. На чёрной двери, ведущей в квартиру, чёрным цветом — постмодернизм! — нарисован фашистский символ. Вокруг, на зелёных стенах — тоже, но искусство в этом разве что демонстрации своей абсолютной тупости. Видимо, не в курсе, что я не в России, поэтому говорят «забыть Весну». И с этим символом вместо «з» русского алфавита. Я — еврей по маме; русский по папе и по культуре. Мне неприятно, когда русский язык коверкают. Мне странновато, что жертвой денацификации внезапно становится не только страна с президентом-евреем (ладно, промыли сами себе мозги), но и семья с паспортами Израиля (о появлении которых российские власти были уведомлены). Я говорю сестре сделать фотографии. Мне в это время момент звонят с +1 (407) 505-8651 и +1 (760) 918-5971, но я сбрасываю, потому что разговариваю с сестрой. К 21:07 сестра идёт заканчивает звонок, чтобы делать фотографии; мне звонят с +1 (407) 487-0613, разговор длится 4 с чем-то минуты, из которых почти три я записал.

Они угрожали здоровью и жизням меня и собаки. Абсолютные уроды и фашисты.

Запись части звонка

Бывший прокурор трибуналов ООН по бывшей Югославии и Руанде Карла дель Понте призвала выдать международный ордер на арест Владимира Путина

Подробнее: «Путин — военный преступник», — сказала Карла дель Понте швейцарской газете Le Temps в интервью, опубликованном в субботу. По ее словам, в Украине совершаются явные военные преступления.

▪️Дель Понте сказала, что ее особенно потрясло использование массовых захоронений, что напоминает о происходившем в бывшей Югославии. «Я надеялась никогда больше не увидеть массовые захоронения, — сказала она газете Blick. – У этих погибших есть близкие, которые даже не знают, что с ними стало. Это неприемлемо».

▪️Среди другие военных преступлений, которые видит Карла дель Понте в Украине, – нападения на мирных жителей, разрушение гражданских зданий и уничтожение целых деревень.

▪️По мнению дель Понте, расследование по Украине будет проще, чем по Югославии, потому что Киев сам запросил международное разбирательство. И нынешний главный прокурор Международного уголовного суда (МУС) Карим Хан уже посетил Украину в марте.

▪️Если МУС найдет доказательства военных преступлений, следует дойти до тех, кто принимал решения, считает дель Понте. Таким образом, считает экс-прокурор, можно будет привлечь к ответственности даже Путина.

Цитата: «Когда началось расследование в отношении Слободана Милошевича, он еще был президентом Сербии. Кто бы мог тогда подумать, что однажды его будут судить? Никто», — сказала она Blick.

▪️Дель Понте добавила, что необходимо провести расследование возможных военных преступлений, совершенных обеими сторонами. В частности она напомнила сообщения о предполагаемых пытках группы российских военнопленных вооруженными людьми с украинской символикой.

Позиция Россия. Россия называет происходящее в Украине «специальной военной операцией», направленной на защиту Донбасса и имеющей своей целью «демилитаризацию» и «денацификацию» страны.

Узнать больше. Подробнее о том, возможно ли привлечь Путина к ответственности за военные преступления в Украине, можно прочитать здесь.

Не переходите по ссылке, если вам нет 18 или вы не готовы увидеть фотографии мирных людей, которым связали руки и расстреляли

https://t.me/mediaskat/4069

Минобороны РФ сегодня:
«росс войска вышли из Бучи ещё 30 марта»

Также Минобороны, 1 апреля:
«Буча и другие населенные пункты находятся под полным контролем росс войск»

22. Всё больше и больше!

Ожидания от прошедшего года жизни в чём-то оказались слишком оптимистичными.

Совершенно не планировал уезжать из России, совершенно не ожидал, что придётся наблюдать за войной.

В начале апреля ещё и увеличилась уверенность, что на решение главной стоящей перед человечеством проблемы не остаётся достаточно времени. На Metaculus медианное предсказание даты, когда о слабом общем ИИ (проходящем разные тесты лучше большинства людей и тест Тьюринга), впервые станет публично известно, опустилось с 2042 до 2032 за неделю: Google выпустили PaLM — модель, которая превосходит среднестатистических людей в решении задач из бенчмарка BIG-bench, оценивающего понимание текста, мира, людей, математики и умение логически о них рассуждать.

Даже если действительно осталось целых десять лет, и форкастеры на Metaculus не недооценивают возможность новых скачков, этого совершено не хватает, чтобы решить AI Alignment и предотвратить уничтожение человечества. Никто не знает, как прийти к способу создания AGI так, чтобы его предпочтения совпадали с предпочтениями человечества и человечество не оказалось уничтожено. Из-за того, насколько экономически выгоднее иметь модели, более близкие к AGI, и насколько легко может начаться «гонка вооружений», почти невозможно представить уровень глобальной координации, который был бы необходим для предотвращения запуска AGI до решения AI Alignment.

Если у вас есть степень по математике, computer science, физике или другим смежным предметам или если вы занимаетесь машинным обучением, если вы потенциально были бы готовы сменить направление исследований на какое-нибудь интересное и очень полезное человечеству, лучший подарок, который можно сделать мне на день рождения — запланировать звонок со мной на полчаса/час.

Спасибо! <3

Небольшое обновление. С тех пор вышли ещё две статьи DeepMind.

В первой (arxiv, пост), озаглавленной A Generalist Agent, нейронная сеть — трансформер, с замороженными весами — без дополнительного обучения, сходу играет в совсем разные игры, строит долгосрочные планы (например, в играх, в которых отсутствие плана в начале игры приводит к поражению, из которого невозможно восстановиться) и придерживается их, выполняет множество задач — включая IQ-подобные — лучше человеческих экспертов.

Во второй (arxiv, пост) агенты учатся торговать друг с другом, обмериваться ресурсами, зарабатывать на разнице в ценах, складывающихся в разных местах. Их поведение меняется в соответствии с предсказаниями макроэкономики.
“As a path to AGI, multi-agent reinforcement learning research should encompass all critical domains of social intelligence. However, until now it hasn’t incorporated traditional economic phenomena such as trade, bargaining, specialisation, consumption, and production. This paper fills this gap and provides a platform for further research”, — пишут DeepMind.

Heated debates о том, насколько опасен ИИ, выглядят так: “it's not like "90% chance AI's gonna kill us" vs "AI will never be a serious threat" the debates are more like "is it 90% or 30% chance we will all be dead in ten years". It's a matter of degree”.

На Metaculus медиана даты, когда о “weak AGI” станет публично известно, опустилась до 2029. И это не новые форкастеры: у людей, впервые сделавших предсказание до апреля 2021, медиана опустилась сильнее.

Тряхнула стариной и написала не (совсем) про войну, а про очередное безумное уголовное дело в России. Супер-подробно про то, как следователи возбудились на движение «Весна» с началом войны — ребята одни из первых начали антивоенную кампанию. Давили на них не только арестами и обысками: на дверях активистам провокаторы рисовали буквы Z, а на нескольких напали, одному активисту даже пришлось делать операцию.

Активисты «Весны» позвали людей на акцию «Бессмертный полк» с портретами ветеранов и словами: «Они воевали не за это». А аж целое главное управление Следственного комитета решило, что выступая против войны они посягнули на права граждан (какие права, развязывать войну и убивать?)

Сейчас шестеро молодых ребят в разных городах под запретом определенных действий и с браслетами слежения на ногах. Двое — действительно участники движения «Весна». Один — уже не состоит в движении. А трое ребят из Москвы никогда не состояли в «Весне». А теперь они все в одном уголовном деле.

https://zona.media/article/2022/05/27/vesna

Vert Dider перевели и озвучили первое видео из серии роликов Роба Майлза об алайнменте (я их поддержал финансово и научной редактурой)

https://youtu.be/SVLl-b6oLVs

Видео рассказывает об одной из конкретных проблем безопасности ИИ, над которыми можно работать уже сегодня. Их решения и развитие интуиций о них могут помочь сделать так, чтобы ИИ будущего имели положительный эффект.

Шанс, что вся ценность долгосрочного будущего будет уничтожена искусственным интеллектом, непозволительно велик.

Поговорили об этом в подкасте с Ди @dvdhomak.

https://youtu.be/IwIjk2Wrw18 | на площадках с подкастами

Это третья или четвёртая попытка записать. Предыдущие получались слишком длинными и объёмными, так что сейчас решили поговорить недолго и как получится, выложить, и в следующей части обсудить вопросы из комментариев.

Мы совсем не упомянули, почему нельзя просто сказать ИИ не убивать людей, почему примерно любая конкретная функция, которую мы придумываем и даём ИИ максимизировать, не работает, и почему даже если задать функцию, мы не умеем находить ИИ, которые максимизируют действительно именно эту функцию (особенно если ищем среди очень умных).

Это могут быть очень неочевидные штуки, комментируйте, если хотите, чтобы мы о них поговорили

Если вы знаете очень крутых {university students and early-career professionals ~до 25}, которые не слишком посвящены в эффективный альтруизм (максимум, прочитали одну книгу) и которые хотят использовать свою карьеру для улучшения мира и создания процветающего будущего — поделитесь с ними ссылкой.

EA Sweden открыли подачу заявок на участие в Future Academy — бесплатную пятимесячную программу для амбициозных студентов и молодых профессионалов, в том числе из России. Цель — обеспечить участников "thinking, tools, and resources they need to pursue ambitious longtermist careers while growing as people".

Проект поддержан Фондом Нобеля, среди спикеров — лауреат Нобелевской премии Сол Перлмуттер и глава long-term strategy and governance в DeepMind Аллан Дефо.

В ходе программы участники четыре раза проведут в Стокгольме выходные, заполненные воркшопами, презентациями и социальными ивентами; остальная часть программы — онлайн. Часть участников получат стипендии в $10k.

Подача заявок — до 4 сентября.