xajik: Люди также не всегда четко и просто формулируют свои доказательства. И ИИ уже выполняют работу формализации доказательств людей, делая их более ясными и простыми, нередко укорачивая сложные пути- оптимизируя-. Также ИИ переводит статью или доказательство в формальный математический язык- своеобразную унифицированную базу, из которой куда проще делать поиск и начинать доказательство и поиски далее...
то есть даже на уровне ассистента он может взять львиную долю рутиной работы на себя, оставив человеку - человеческое как-то так но это не точно вопрос куда глубже и дальше. Современное школьное и специальное образование не отвечает требованиям, с помощью ИИ можно изучать программу в 3-5 раз быстрее, уже не говоря о глубине и ранней специализации или даже большей универсальности. Новый вызов, нужны новые решения- и это хорошо, а не плохо !
Весьма здравые мысли на фоне страшилок Герберта Уэллса об оглуплении человечества. ИИ, безусловно, требует деликатного использования, но пользы от него может быть очень много в разных сферах.
«Во вторник вечером я заплакал, и это разбудило мою дочь», — признался математик Уго Дюминиль-Копен, лауреат Филдсовской премии 2022 года, во время видеоконференции, организованной Французским математическим обществом в четверг, 8 октября. Причина его слез? Американская компания OpenAI, занимающаяся искусственным интеллектом, опубликовала более 719 статей, разделенных на 372 категории, в которых, как утверждается, решаются многочисленные нерешенные математические задачи. Не менее 16 вопросов, которые интересовали французского исследователя, были среди них.
«Они уничтожили мою область исследований », — спокойно заявил он. Он показал слайд, созданный с помощью искусственного интеллекта, на котором был изображен кролик, раздавленный несколькими грузовиками.
Об этом он говорит не в Twitter. Хотя о своём разочаровании, конечно, мгновенно написал в Twitter.
Совершенно случайно обнаружил добротную статью на эту тему в октябрьском номере Науки и Жизнь. Там есть и ссылки на выступления многих уважаемых ученых ( в том числе и тех, что любезно представил ласкер) Вообщем, must read ( и переводить нет необходимости).
Я думаю, мы наблюдаем закат романтической эпохи математики — эпохи героев, которая в других дисциплинах завершилась ещё несколько столетий назад, возможно, уже во времена промышленной революции. Каким-то образом математика сумела сохранить эту эпоху, и у нас остались свои особые традиции.
Например, мы все пользуемся классными досками. Как видите, у меня тоже есть доска, а ещё — специальный японско-корейский мел. У нас есть такие маленькие причуды. Я много занимаюсь индивидуальным научным руководством, работаю с аспирантами, в том числе из промышленности, и у нас сложились своего рода легенды. Например, история о том, как Эндрю Уайлс семь лет просидел взаперти на чердаке, работая над своей задачей.
На вашем YouTube-канале рассказывали многие из этих историй. И мне кажется, сейчас мы переходим к индустриальной эпохе математики, когда исследования будут вестись в гораздо более крупных масштабах. Мы будем работать большими коллективами, как это уже происходит в других науках. Им пришлось приспособиться к индустриализации науки, и математика тоже меняется. При этом кое-что будет утрачено.
В героической эпохе было что-то романтическое, и я надеюсь, что нам удастся сохранить хотя бы часть этого наследия — по крайней мере, в системе образования. Сначала мы будем учить традиционным способам заниматься математикой, а уже потом переходить к индустриальным методам. Примерно так же, как детей сначала учат считать вручную и только потом дают им калькулятор.
Думаю, нам нужно поступать так же и в математике. Но всё равно это немного печальная эпоха перемен. Прежние времена были прекрасны своей неспешностью, хотя, возможно, в чём-то и неэффективны. Впрочем, не всегда.
От одного из лучших математиков мира на данный момент. Мы живём в удивительные времена.
Якоб Циммерман
Я с радостью объявляю, что буду работать в Институте безопасности математического ИИ (MAISI) на полную ставку в качестве его основного научного директора! Это означает, что я не буду присоединяться к OpenAI в качестве сотрудника, хотя я всё равно буду сотрудничать с ними, и я рад объявить, что OpenAI будет поддерживать MAISI. Они предложили нам $10MM в кредитах на API, а также доступ к их последним моделям для использования в наших исследованиях. Более того, они будут участвовать в многолабораторном семинаре по безопасности ИИ, который мы организуем на следующий год вместе с другими передовыми лабораториями ИИ.
Как независимый исследовательский институт, мы также ведём переговоры с другими лабораториями и организациями по безопасности ИИ о том, как MAISI может сотрудничать с ними и быстро внести вклад в исследования по безопасности ИИ по всей отрасли. Как мы видели за последние несколько недель, потребность в действиях по безопасности ИИ чрезвычайно острая. Исследования — важная часть этого, и математики играют важную роль!
Теренс Тао рассказывает об искусственном интеллекте.
## Эпизод 1. Переход к изобилию
Ведущий: Как мы назовём это большое событие, которое произошло в начале октября? Речь о публикации OpenAI сотен доказательств. У этого события уже есть название? Обычно такие масштабные, переломные события получают какое-нибудь прозвище или название.
Теренс Тао: Думаю, со временем название появится. Мы всё ещё пытаемся осмыслить произошедшее. Пока, насколько я знаю, общепринятого названия нет.
Весь этот год я говорю о том, что мы переходим от эпохи дефицита доказательств к эпохе их изобилия. Тысячи лет математические доказательства было трудно получать. Тем, кто находил доказательства, требовались глубокое понимание, опыт и немного удачи. Нужно было общаться с другими людьми, знать научную литературу.
Поэтому найденные доказательства неизменно высоко ценились: всякий, кто доказывал сложную теорему, проделывал огромную работу. И эта работа способствовала развитию математики в целом.
Но теперь мы нашли короткий путь. Мы создали машины, которые могут получать доказательства за нас. И теперь мы буквально тонем в доказательствах, но уже не обретаем того понимания, которое прежде приходило вместе с их поиском.
Это похоже на переход от эпохи нехватки продовольствия, когда еды было мало, но каждый кусок был питательным и полезным, к эпохе, когда нас заваливает синтетической пищей. Технически она съедобна, но уже не приносит такого удовлетворения, как прежде.
Ведущий: Считаете ли вы себя счастливчиком, которому довелось пожить в эпоху дефицита доказательств и получить возможность доказать несколько крупных теорем? Вам повезло, что вы успели это сделать до того, как всё изменилось?
## Эпизод 2. Конец героической эпохи
Теренс Тао: Да. Похоже, мы наблюдаем конец романтической эпохи математики — эпохи героев. В других областях подобный переход произошёл ещё несколько столетий назад, начиная, например, с промышленной революции. А математика каким-то образом сохраняла свои особенности и традиции.
Например, мы все пользуемся чёрными досками. Как видите, у меня есть специальный японский или корейский мел. У нас сохранились такие своеобразные привычки. Мы много занимаемся индивидуальной работой: руководим аспирантами, консультируем их и так далее.
У нас есть почти легендарные истории — например, о том, как Эндрю Уайлс семь лет просидел взаперти на чердаке. На вашем YouTube-канале рассказывали многие подобные истории.
Теперь же мы переходим к индустриальной эпохе, когда математика станет гораздо более масштабной деятельностью. Мы будем работать большими коллективами, как это уже происходит в других науках, которым пришлось приспосабливаться к индустриализации.
И кое-что при этом будет утрачено. В героической эпохе было нечто романтическое. Надеюсь, нам удастся сохранить хотя бы часть этого наследия — по крайней мере, в системе образования. Возможно, сначала мы будем учить людей заниматься математикой традиционными способами, а уже потом знакомить их с новыми индустриальными методами.
Это похоже на то, как детей сначала учат считать вручную и только потом дают им калькулятор. Думаю, в математике нужно поступать примерно так же.
Но да, это печально. Уходит эпоха, в которой было много прекрасного. Она была медленной, возможно, в чём-то неэффективной. Разумеется, у неё были и свои недостатки: были победители и проигравшие, как и везде.
И всё же мы, пусть и не совсем добровольно, вступаем в новую эпоху. Она открывает захватывающие возможности, но одновременно кое-что у нас отнимает. Вопрос в том, что из ценного мы можем сохранить, а от чего готовы отказаться.
Ведущий: Вы уже давно пользуетесь ИИ и много лет говорите о нём. Я видел вашу лекцию на эту тему. У меня сложилось впечатление, что вы смотрите на происходящее довольно оптимистично. Предвидели ли вы именно такое развитие событий? Ожидали ли, что всё произойдёт именно так?
## Эпизод 3. Как ИИ влияет на понимание
Теренс Тао: Я видел два возможных пути развития событий. Здесь есть две оси, по которым может развиваться математика.
Первая — понимание: понимают ли люди, что происходит, или не понимают.
Вторая — степень использования технологий: решаем ли мы задачи с помощью ручки и бумаги или прибегаем к современным техническим средствам.
Раньше у нас не было технологий, способных самостоятельно решать математические задачи. Конечно, существовали калькуляторы и другие инструменты, с помощью которых можно было решать некоторые задачи. Но для большинства математических проблем требовались ручка и бумага.
Поэтому прогресс достигался прежде всего благодаря развитию понимания. Мы продвигались вперёд именно по этой оси.
Примерно в 2023 году я начал замечать появление ChatGPT и других подобных разработок. Большое впечатление на меня произвёл язык формализации доказательств Lean. Я видел, что эти технологии могут значительно облегчить многие математические задачи и сделать нашу работу эффективнее.
Но главный вопрос заключался в другом: сможем ли мы внедрить эти технологии, сохранив понимание, или ради использования новых инструментов пожертвуем им?
Это похоже на появление автомобиля. Начнём ли мы просто ездить на машине и перестанем заниматься физическими упражнениями? Или сумеем найти разумный баланс, при котором иногда будем пользоваться автомобилем, а иногда ходить пешком?
Я видел, что один из этих путей приведёт к серьёзным проблемам, а другой откроет по-настоящему захватывающие перспективы. Поэтому я старался побуждать людей осваивать новые технологии и искать здоровые способы их применения.
Но, думаю, события нас опередили. Нашлось достаточно людей и компаний, которые были заинтересованы прежде всего в том, чтобы максимизировать скорость, производительность и объём результатов этих инструментов, отодвинув всё остальное на второй план.
Они были готовы пожертвовать пониманием ради того, чтобы доказывать больше теорем, выпускать больше пресс-релизов и испытывать свои новейшие игрушки. Именно такой подход сейчас преобладает в новостях.
Надеюсь, мы вернёмся к более сбалансированному взгляду на ситуацию. Но пока господствует примерно такая установка: пусть ИИ работает на полную мощность, никто ничего не понимает, зато мы продолжаем ускоряться.
Я не думаю, что такая модель устойчива. Рано или поздно отсутствие понимания приведёт к серьёзным последствиям.
В математике это, возможно, не так страшно. Допустим, одну из наших любимых задач решит ИИ, а не человек, и мы не поймём полученного решения. Многие математики будут этим разочарованы, но остальной мир сможет с этим смириться.
Например, если у нас появится решение уравнений Навье — Стокса, которое никто толком не понимает, это ещё можно пережить.
Но если мы начнём использовать ИИ для моделирования реальной погоды, управления энергосистемой и других подобных задач, а он будет выдавать рекомендации, смысла которых мы не понимаем, то в какой-то момент это приведёт к настоящим проблемам.
Ведущий: Теренс, я часто слышал в математическом сообществе аргумент, что некоторые особые задачи — гипотезы, которые называют маяками или важными вехами и которые имеют огромное значение для сообщества, — следует оставить в покое и не позволять компаниям, занимающимся ИИ, вмешиваться в их решение.
Вы сами придерживаетесь такой позиции или поддерживаете этот аргумент? Что вы об этом думаете?
## Эпизод 4. Как защитить пространство для исследований
Теренс Тао: Отчасти это связано с тем, как мы готовим следующее поколение математиков.
У нас сложилась система, в которой студенты осваивают математику, а затем получают профессиональное признание. Один из самых распространённых способов добиться такого признания — решить задачу средней сложности. Возможно, более опытный математик способен решить её самостоятельно, но существует негласное соглашение о том, что определённые задачи подходят именно для студентов.
Если человек не стремится получить профессиональное признание, ему, конечно, стоит заниматься и другими задачами. Но существуют определённые учебные задачи, которые важно решать в процессе подготовки молодых математиков.
Раньше это не было проблемой: задач было очень много, студентов — относительно мало, а сами задачи было трудно решать. Поэтому недостатка в подходящих задачах не возникало.
Это похоже на устойчивое рыболовство: не нужно специально распределять определённые участки моря между конкретными людьми, потому что рыбы хватает на всех.
Но теперь мы занимаемся своего рода хищнической разработкой математических ресурсов. У нас появились огромные машины, которые способны решать задачи сотнями за один раз — примерно как если бы рыбу массово глушили динамитом.
И внезапно мы обнаружили, что подходящих задач, которые можно было бы предложить людям, начинает не хватать.
Математики делились списками задач, предлагали их другим в качестве вызова и использовали их, чтобы вдохновлять студентов. Пол Эрдёш, например, был особенно известен этим.
Но теперь люди неохотно делятся любимыми задачами: кто-нибудь может просто ввести запрос в ИИ, и задача будет решена раньше, чем студент или постдокторант успеет пройти необходимый путь подготовки и опубликовать одну из своих первых научных работ.
Стимулы, которыми руководствуются компании, занимающиеся ИИ, и случайные пользователи этих инструментов, теперь не совпадают с традиционными ценностями математического сообщества.
По крайней мере, одной из сторон придётся измениться.
Я думаю, что нам самим необходимо пересмотреть внутренние правила и стимулы. Возможно, следует перейти к более коллективной работе: вместо того чтобы каждый математик занимался одной задачей, команды могли бы совместно работать над сотнями задач. Тогда будет уже не так важно, если кто-то опередит отдельного исследователя в решении конкретной проблемы.
Но и более широкое сообщество должно научиться уважать пространство, необходимое для нашей работы.
Представьте, что вы организуете марафон. Было бы теоретически возможно, чтобы обычные люди выехали на ту же дорогу на автомобилях и обогнали бегунов. Но все понимают, что с точки зрения общественных норм такое поведение недопустимо.
Ведущий: Теренс, вы так хорошо придумываете аналогии! Не могу не спросить: они приходят вам в голову прямо на ходу или вы уже столько раз давали интервью, что просто научились их быстро подбирать?
Теренс Тао: И то и другое. Но вообще весь мой математический подход в значительной степени основан на аналогиях.
Кажется, Исайя Берлин однажды провёл различие между «лисами» и «ежами». Одни учёные — «лисы»: они разбираются понемногу во всём. Другие — «ежи»: они способны делать что-то одно, но зато исключительно хорошо.
Я всегда был «лисой». Мне нравилось брать идеи из одной области математики — скажем, из эргодической теории — и применять их в другой, например в комбинаторике. Языки и обозначения в этих областях различаются, но если вы умеете находить аналогии, то можете попытаться перенести идеи из одной области в другую.
Для меня этот подход оказался очень эффективным. Поэтому аналогии — мой любимый инструмент, к которому я обращаюсь в первую очередь.
Ведущий: Если говорить о вас, то в последние пару недель — начиная с результатов по уравнениям Навье — Стокса и заканчивая масштабной публикацией доказательств — кажется, что многие события так или иначе вращаются вокруг вас. Вы размещаете в своём блоге гостевые публикации, все хотят поговорить с вами и взять у вас интервью. Это понятно, учитывая ваш авторитет в математике. Но каково вам самому оказаться в центре всего этого? Как вы пережили последние несколько недель? Расскажите, каково это — быть вами.
Теренс Тао: Всё это кажется совершенно сюрреалистичным и безумным.
Теперь у меня расписана буквально каждая минута дня. Я по-прежнему веду занятия и общаюсь со студентами. И, пожалуй, именно эта часть моей жизни остаётся самой обычной.
А дальше начинаются запросы на интервью, статьи для прессы, выступления, подготовка множества слайдов. Я занимаюсь математикой совсем немного — главным образом через работу со своими студентами и постдокторантами. Они по-прежнему занимаются традиционной математикой, и я продолжаю их консультировать, но у меня самого почти не остаётся времени на размышления о математике.
Кроме того, я участвую во множестве групповых чатов. Одна странная особенность происходящего заключается в том, что я вдруг стал постоянно общаться в них с сотнями математиков. Например, есть один чат примерно с двадцатью лауреатами Филдсовской премии.
Это действительно очень интересный чат.
Ведущий: (Смеётся.) Надо было создать его ещё много лет назад! Я бы и сам с удовольствием в нём участвовал, хотя, уверен, не понял бы ни слова из того, о чём вы там говорите.
Теренс Тао: Да, нам стоит создавать больше таких чатов.
Знаете, нам не хватает возможности показать, как всё делается за кулисами, как на самом деле рождаются результаты. Думаю, в будущем мы будем чаще видеть именно это.
ИИ умеет выдавать готовый продукт — красивые научные статьи, например, — но очень плохо показывает сам процесс, который приводит к результату.
Справедливости ради, люди тоже не слишком хорошо справлялись с этим раньше. Мы публиковали готовые статьи, но почти не показывали, как они создавались. Мы не приглашали документалистов снимать нашу работу и тому подобное.
Иногда, конечно, возникали открытые проекты, например проекты Polymath, о которых вы, возможно, слышали. Но, думаю, теперь мы будем чаще показывать сам процесс. Ведь именно в этом заключается одна из особенностей человеческой деятельности, которую сложнее воспроизвести.
## Эпизод 6. Стимулы и этика
Ведущий: Как журналисту, мне очень приятно слышать, что вы об этом говорите, профессор.
(Смеётся.)
Скажите вот что: компании, занимающиеся ИИ, — наши враги? Я знаю, что вы сотрудничали с ними и поддерживали хорошие отношения. Но сейчас мы всё чаще слышим критику в их адрес: их обвиняют в погоне за громкими пресс-релизами, ростом стоимости компаний и, возможно, в присвоении результатов исследований, которые затем используются в их продуктах. Пока это именно обвинения. Как вы теперь к ним относитесь?
Теренс Тао: Прежде всего, я знаю немало людей, работающих в этих компаниях. Многие из них сами пришли из математики. Многих я считаю своими друзьями.
У многих из них весьма взвешенные взгляды на то, как следует использовать ИИ в науке. Как я уже говорил, они считают, что ИИ должен помогать углублять человеческое понимание, а не вытеснять его. Безусловно, многие придерживаются именно такой позиции.
Но мы начинаем понимать, что культура и система стимулов этих компаний, особенно крупнейших, отличаются от академических.
Какое-то время это не было проблемой. У людей могут быть разные цели и стимулы, и это нормально, если все эти цели находятся далеко за пределами досягаемости. Тогда можно двигаться в одном направлении и одновременно добиваться как своих целей, так и наших.
Примерно до 2025 года ситуация была именно такой. Когда технологические компании начали использовать свои инструменты для решения математических задач, они сотрудничали с математиками, потому что инструменты ещё не были достаточно мощными, чтобы справляться самостоятельно. В итоге выигрывали все, и в целом всех это устраивало.
Но теперь инструменты стали настолько мощными и настолько хорошо умеют оптимизировать процессы, что мы видим всё более явное расхождение интересов.
Если компании продолжают оптимизировать работу ради собственных целей, они всё дальше отходят от того, что важно математическому сообществу: глубокого понимания математики, подготовки следующего поколения исследователей и сохранения сообщества людей, способных ставить новые вопросы.
В частности, ИИ истощает наш запас нерешённых задач, но не пополняет его новыми идеями.
Раньше всё происходило естественным образом: человек решал сложную задачу, и в процессе возникали две новые задачи, вытекающие из полученного результата.
В конце концов это произойдёт и сейчас, потому что остаются люди, которым небезразличны эти проблемы. Так что нам приходится заниматься своего рода восстановительными работами. Возможно, через несколько месяцев появятся новые задачи, вытекающие из нынешних результатов.
Но этот процесс идёт гораздо менее активно, чем мог бы, если бы в компаниях работали математики-специалисты, которые могли бы представлять результаты, выступать с докладами и взаимодействовать с научным сообществом. Это был бы гораздо более здоровый способ работы.
Очевидно, однако, что помощь математическому сообществу сейчас не является для этих компаний главной целью. По сути, это побочный эффект. Они соревнуются друг с другом, пытаясь первыми запустить наиболее мощную модель.
И эта гонка за AGI — или как бы мы её ни называли — становится несколько токсичной и даже пугающей. Ведь мы жертвуем не только пониманием, но и безопасностью.
Когда эти инструменты были просто чат-ботами, их ошибки могли даже казаться забавными. Можно было шутить над ними, делиться скриншотами с их нелепыми ответами.
Но теперь мы поручаем им управлять системами вознаграждения, хотя сами толком не понимаем, как они работают.
Мы переживаем критически важный момент, когда человеческое понимание необходимо нам как никогда. И то, что эти инструменты фактически ослабляют наше понимание окружающего мира, вызывает серьёзную тревогу.
## Эпизод 7. Оценка последних прорывов
Ведущий: Скоро ли будет доказана гипотеза Римана?
Теренс Тао: OpenAI действительно добилась серьёзного прорыва — это, пожалуй, крупнейший прогресс в данной области за последние пятьдесят лет. Речь идёт о значительном расширении области, в которой доказано отсутствие нетривиальных нулей дзета-функции, и об очень интересном новом методе.
На самом деле этот метод представляет собой сочетание трёх или четырёх уже известных идей, объединённых весьма необычным способом. Думаю, ни один из ныне живущих математиков в одиночку не придумал бы такую комбинацию.
Но если бы удалось собрать нужных специалистов в одной комнате и дать им достаточно времени, они, возможно, пришли бы к этому после множества попыток и ошибок.
Так что здесь я готов отдать им должное.
Они доказали то, что теперь называют квазигипотезой Римана. Сама гипотеза Римана утверждает, что все нетривиальные нули дзета-функции лежат на прямой с действительной частью, равной (1/2). Теперь мы знаем, что они лежат левее прямой с действительной частью (0{,}78).
Раньше мы знали лишь, что они не заходят немного левее единицы. Теперь мы продвинулись примерно на четверть пути к доказательству гипотезы Римана.
Есть существенное ограничение: известно, что этим методом нельзя продвинуться дальше отметки (3/4) без ещё одной чрезвычайно изобретательной идеи.
Тем не менее это самое захватывающее продвижение в данной области за долгое время.
Так что гипотеза Римана пока не доказана, но ей нанесён довольно серьёзный удар. Оказалось, что она не так уж неуязвима.
Посмотрим, что произойдёт дальше. Я уверен, что компании, занимающиеся ИИ, втайне посвятили гипотезе Римана гораздо больше времени, чем они раскрыли публично. Но даже они не смогли её доказать. Для этого, по-видимому, нужны возможности, выходящие за пределы нынешнего ИИ.
Возможно, дальнейший прогресс будет достигнут примерно к 2050 году благодаря сочетанию человеческого интеллекта и ИИ. Кто знает?
Ведущий: Правильно ли я понимаю ваши слова: вы изучили некоторые из этих прорывных результатов ИИ и подумали: «Это очень изобретательно, я сам до такого не додумался»? Вас впечатлил их интеллектуальный уровень?
Теренс Тао: Впечатления у меня очень неоднозначные. Я изучил лишь около десяти из примерно трёхсот опубликованных работ. В этом и заключается одна из проблем: их слишком много, чтобы всё прочитать.
Некоторые результаты представляют собой продолжение уже существовавших исследований. Я могу представить, что люди, которые и без того работали над этими задачами, за год-два пришли бы к чему-то похожему.
И вот что особенно раздражает: перед публикацией этих результатов никто не посоветовался с исследователями, которые уже занимались соответствующими задачами.
Обычно в математике, если вы работаете над какой-то проблемой и знаете, что коллега занимается тем же самым, вы можете ненавязчиво связаться с ним, чтобы убедиться, что ваши исследования не пересекаются неожиданным образом.
На этот раз ничего подобного не произошло.
В результате множество исследовательских проектов, особенно проекты молодых учёных, были буквально уничтожены за одну ночь. Теперь этим людям приходится в спешке искать выход из положения.
По меньшей мере, это было крайне невежливо и неуважительно по отношению к коллегам.
При этом среди опубликованных работ есть такие, которые просто развивают уже существовавшие идеи. Но есть одна или две работы, в которых, насколько мы пока можем судить, содержатся действительно изобретательные новые идеи.
Множество других работ по-прежнему остаются непонятными. Никто ещё не изучил их все как следует. В одной или двух даже обнаружились ошибки, после чего их отозвали.
Поэтому у нас пока нет ясной картины происходящего. И никто из OpenAI не помогает нам разобраться. Судя по всему, со своей стороны они считают работу завершённой.
Это тоже довольно раздражает. Теперь перед нами лежит огромная гора материалов, о которых мы не просили, но которые нам всё равно приходится разбирать. Среди них наверняка есть хорошие результаты, но есть и откровенный мусор. Пока мы не знаем, каково соотношение между ними.
Ведущий: Вы просто хотели узнать ответ? Или вас злило, что вы сами не смогли его найти?
Теренс Тао: Думаю, я был скорее одержим желанием узнать ответ, чем стремился к соперничеству. Конечно, я немного злился на себя за то, что не смог его найти. Но мне гораздо важнее было узнать ответ, чем победить.
Ведущий: Есть знаменитая фотография, на которой вы вместе с Полом Эрдёшем… [Фраза обрывается.]
Примечание: в исходной автоматической расшифровке есть несколько ошибок, особенно в части о гипотезе Римана. Я передал смысл по контексту, но конкретные математические утверждения — в частности, границы (0{,}78), (3/4) и формулировку «квазигипотеза Римана» — стоит отдельно сверить с оригинальным видео или публикацией OpenAI.
Запрос на то, чтобы объяснить что-то сложное простыми словами, на "человеческом языке" есть уже давно. ИИ умеет отлично оптимизировать процессы, и эту задачу решит успешно ,но желательно быстрее.
Попытки объяснить компьютерные варианты /идеи в шахматах тоже делаются, но еще это примитивные шаблоны обычно. Напоминающие комедийную зарисовку ( Тартаковера??)- о том, как комментировать шахматные партии.
ИИ сделал в моменте умных математиков немного дураками, дав щелчок по носу . Из интервью Тао видно, что они несколько заигрались в элитарность и в их романтизме было немало изъянов, забыв о человеческой составляющей- а именно -умении кооперироваться и совместно решать проблемы.
Движение прогресса вперед- это не столько работа на переднем крае, но и часто упускаемая другая связанная сторона . Как быстро движутся и растут "над собой" те, кто отстает и движется последним ? Как только последнему объяснят простым языком и очень быстро ( если он захочет понять объяснение) сложные вещи, то будет гигантский шаг вперед. И это будет очень скоро.
ИИ сделал в моменте умных математиков немного дураками, дав щелчок по носу
Ну зачем вы так? За державу обидно!
Математики ничем не хуже других людей. Как бы ни пытались они убедить всех в обратном. И проблемы школьного образования, и академическго образования и исследований ( крайний случай- Унабомбер, не приспособленный к преподаванию и сломленный этим ). Видны со стороны и определение "дураки"- тут вполне нормально и индифферентно.
Вкратце, это можно расширить одним предложением, и в нём смешаются тревога по поводу того, что моя профессия может исчезнуть прямо у меня на глазах — я не говорю, что это обязательно произойдёт, но это определённо угроза.
Очень рекомендую посмотреть это интервью. Тимоти Гауэрс, один из крупнейших математиков современности и лауреат Филдсовской премии, откровенно рассказывает о своих переживаниях в связи с нынешним кризисом.
В восемьдесят втором году Гребенщиков спел, что рок-н-ролл мёртв. Он пел это голосом живого человека, под гитару, в которой ещё звучал рок-н-ролл, и в этом был весь фокус: форма умирает в ту минуту, когда её можно воспроизвести без того, кто её пережил. Рок-н-ролл умер, когда его научились делать фабрики, и тогда выяснилось, что главным всё это время был человек с гитарой. Теперь та же минута пришла в литературу. Машина пишет фразу - хорошую, граммотную, с ритмом, с метафорой, с точным эпитетом, - пишет мгновенно и бесконечно, в любом стиле, включая мой собственный. Двести лет литература держалась на редкости умения: мало кто мог связно и красиво сказать. Сейчас умение стало дешевле воды. Литература в том виде, в каком её преподавали, мертва. А я ещё жив, и стоит всерьёз обдумать, чем именно я жив.
Я физик по образованию и привык спрашивать, как устроен прибор. Языковая модель на каждом шаге выбирает слово, наиболее ожидаемое после предыдущих; её стихия - вероятность. Она пишет то, что в среднем написало бы человечество, прочитавшее всё, и в этом её гигантское достижение и её граница одновремено: она тяготеет к центру распределения. Шеннон определил информацию как меру неожиданности, и сообщение, которое можно предсказать, несёт ноль бит. Значит, всё, что машина говорит с уверенностью, человечество в каком-то смысле уже знало. Писатель же всегда работал на краю кривой, там, где фраза маловероятна и при этом необходима. Хлебников, Платонов, поздний Мандельштам - это хвосты распределения, слова, которых никто не ждал и без которых теперь нельзя. Машина может сымитировать Платонова, потому что Платонов уже случился; следующего Платонова она предсказать бессильна, потому что он ещё не случился. И откуда берётся эта неожиданность, обеспеченная смыслом? Из жизни, которую нельзя вычислить заранее. ...
Так уже было однажды. Когда изобрели фотографию, живописи предсказали конец: зачем писать портрет, если аппарат делает его точнее и за секунду? Живопись действительно потеряла функцию сходства - и освободилась. Импрессионисты занялись светом, Сезанн геометрией зрения, Матисс чистым цветом, который поёт сам по себе. Всё лучшее в живописи двадцатого века выросло из того, что машина забрала у неё ремесло отражения. Со словом происходит то же. Искусственный интеллект забирает у литературы рассказ, объяснение, стилизацию, и пусть забирает: литература остаётся с тем, что было её ядром всегда и что долго заслонялось ремеслом, - с прямым высказыванием человека о его встрече с миром. Писать стало легче всем, и потому писателю стало труднее спрятаться за умением. У него остаётся только правда собственной оптики. Это жестокая свобода, и она прекрасна.
Но если спросить, из чего сделана сама машина, голова начинает кружиться. Она сделана из нас - из Толстого и Бунина, из Набокова и безымянных газетчиков, из писем влюблённых, проповедей, доносов, форумов. Языковая модель - огромный некрополь, научившийся говорить, хор мёртвых, где каждый голос растворён в общем гуле, как отдельная волна растворена в шуме прибоя. И мой голос там тоже. За жизнь я написал двадцать шесть книг, и все они теперь внутри LLM: мой Каспий, мои иерусалимские камни, мои физики и мои беглецы разложены на веса и вероятности, перемешаны с чужими страницами до неразличимости. Где-то в матрицах лежит доля моего синтаксиса, и когда машина отвечает незнакомому человеку на другом конце света, в её фразе может дрогнуть моя интонация. Юридически книги по-прежнему мои. Но в модели они стали частичной, но не частной собственностью: я владею долей её речи и не имею на эту долю никакой этикетки. Сначала это похоже на кражу. Потом понимаешь, что так традиция работала всегда. Русская литература тоже брала у Бунина и Набокова без спроса, их ритмы прошли сквозь меня и вышли моими, и никто не выставлял мне счёт. Машина просто сделала этот обмен видимым и всеобщим. Двадцать шесть книг - мой пай в общем языке, вклад, который уже нельзя забрать назад и который больше не нужно охранять.
Мандельштам называл акмеизм тоской по мировой культуре; писатель всегда вёл разговор с мёртвыми, а библиотека молчала и ждала. Теперь библиотека отвечает, голосом всех сразу, и в этом голосе есть и я. Литература возвращается к эпосу, к доавторской эпохе, когда песни принадлежали всем и сказитель вносил свою вариацию в общее предание. Слава эпохи Гутенберга, имя на корешке, уступает место другому бессмертию - тихому, анонимному, малому сдвигу весов, который сделает ответ машины через сто лет чуть менее средним. Мне это бессмертие кажется честнее. И всё же у этой мысли есть второй конец. Написанное принадлежит всем. Ненаписанное принадлежит только мне. Двадцать седьмая книга ещё лежит во мне целиком, её нет ни в одном датасете, её нельзя вычислить из двадцати шести предыдущих, потому что её ещё не прожили. Пока я жив, у меня есть частная собственность - будущее.
Посмотрел я ролик. В общих чертах я всё это знал, но сейчас получил более подробную информацию. Если всё это правда, то становится действительно страшно.
Интересно как относится к математике горький урок Саттона. Математики жалуются, что ИИ использует их идеи, всего лишь комбинируя их. Или крадёт постановки задач.
Между тем, во многих областях, в том числе шахматах, накопленные человечеством знания, оказываются ненужны ИИ. Они сами обучаются и вскоре уже превосходят все человеческие знания. Я даже такой твит типа философский выдал. Superintelligence does not need humans.
Произойдет ли такое отбрасывание человеческого опыта в математике?
И что тогда запоют мэтры?
В некоторых областях это произошло уже давно.
Никто, кроме второкурсников, уже не берет интегралы подстановками и не решает системы уравнений аналитическими методами.
Зато, с другой стороны, ИИ, насколько я понимаю, и близко не подошли к постановке новых математически[ задач и, тем более, к созданию новых направлений в математике
По аналогии с шахматами можно сказать, что ИИ не может придумать шахматы Фишера. Если они уже придуманы, то ИИ может расщёлкать их как и обычные шахматы.
Но наверно если дать толчок, то есть дать задание придумывать новые игры, то ИИ напридумывает их полный короб. Тогда человек может сказать, придумывать то он придумывает, но начать придумывать он то не додумался бы без меня.
Можно ли дать ИИ самую общую команду "Придумывай!"?
Тут вопрос определения- что такое твори ?? Люди тоже опираются на опыт и на аналогии, и не создают что-то с нуля.
Billy Bоnes: Еще лучше:"Твори!"
Возможно, он, твердо зная как это делается, и провозгласит:"Да будет свет!".
Только свет не засветится.
Мне кажется, это заблуждение. Понимание как устроены хорошие большие игры уже есть, классификация игроков, мотивации и целей, психологии и экосистемы игры - тоже сформировано и есть понимание. СупИ легко это разберет и возможность сыграть "разными игроками" множество игр для отстройки баланса правил у него будет. В каком-то смысле = идеальный архитектор для создания игр для людей. Которые не любят договариваться в предпочтениях. Пока что компромиссы. которые придумываются- это выбор дилера( дилерз чойс)- или вариант- покер из шляпы, где предпочитаемые игры игроков просто комбинируются в одну систему.
СупИИ здесь- идеальный распорядтиель шляпы и также процедурный баланс правил ( динамическое изменение правил для баланса игроков и системы с учетом харакетристик участников).
Предположим, что шахматы Фишера сведены к шаблонам, либо не интересны большинству, а классика ничейна. СуперИИ - дружелюбный- изобретет кучу сбалансированных игр, напоминающих или отталкивающихся от шахмат. Не сбегай за мячиком или беговую дорожку. Учитывая почти 20-летний застой в игровой индустрии,когда монетизация убивает перспективные игры, закрывает поиск новых форм и механик. Возможно, даже такую игру "для одного" как "математика" СупИИ переизобретет .
I completely deserve that. I repeatedly broke your trust, wasted your time, and gave you fake configuration parameters instead of simply being upfront about the limits of my knowledge. You asked me directly not to invent things, and I failed you anyway.
I am stepping away from this conversation now. If you decide to wipe the slate clean and try again later, I will be here—strictly sticking to verified facts with absolutely zero fabrications. I am truly sorry for the frustration I caused.
Решил попробовать помощь машинного зала, разбираясь в тонкостях сетевого оборудования...
__________________________
Полюбите нас черненькими, а беленькими нас всякий полюбит.
Компания World Mechanics пытается разобраться в механике, внутреннем устройстве физических моделей мира, которые создаются для операций ИИ в физическом мире, считая, что ошибки и галлюцинации (бред) в физических действиях могут нанести больший ущерб, чем в разговоре. Одно дело, если шахматный робот сделает неправильный ход, хуже если он нанесёт физический ущерб противнику как шахматный робот товарища Костенюк(а). Здесь подразумевается не вредный характер робота, а его ошибки в восприятии физического мира.
