Нобелевская премия 2024 по физике: нейросети и их создатели

Что такое нейросеть

В мозге миллиарды нейронов, соединённых друг с другом. Каждый нейрон получает сигналы от соседей и решает, передавать ли сигнал дальше. Связи между нейронами при обучении усиливаются или ослабевают. Так мозг запоминает и узнаёт.

Искусственная нейросеть устроена похоже, только вместо нейронов числа в компьютере. У каждой связи есть вес, число, которое показывает её силу. Обучить сеть значит подобрать веса так, чтобы она правильно отвечала: узнавала котиков на фото, переводила текст, предсказывала следующее слово. Подробнее в статье как работает нейросеть.

Сеть Хопфилда: память как долина

Джон Хопфилд по образованию физик, изучал твёрдые тела. В 1982 году он предложил сеть, которая умеет запоминать картинки и восстанавливать их по кусочку или по испорченной копии. Если показать ей размытое, неполное изображение, она «дорисует» его до ближайшего запомненного.

Хопфилд описал работу сети языком физики. В некоторых материалах атомы ведут себя как маленькие магнитики, которые влияют на соседей и стремятся выстроиться так, чтобы энергия всей системы была как можно меньше. Сеть Хопфилда делает то же самое: у каждого её состояния есть «энергия», а запомненные картинки соответствуют самым низким точкам.

Представьте холмистую местность. Запомненные картинки это долины. Если положить шарик на склон, он скатится в ближайшую долину. Так и сеть: начав с испорченной картинки, она «скатывается» к той, что запомнила.

Машина Больцмана и глубокое обучение

Джеффри Хинтон родился в 1947 году в Лондоне. Интересный факт: его прапрадед Джордж Буль, создатель алгебры логики, той самой, на которой работают все компьютеры и задачи ЕГЭ по информатике с таблицами истинности.

В 1985 году Хинтон с коллегами развил идею Хопфилда и создал машину Больцмана, названную в честь австрийского физика Людвига Больцмана, который изучал поведение огромного числа молекул газа. Эта сеть умела не просто вспоминать, а сама находить закономерности в данных и создавать новые примеры, похожие на те, что видела. Это одна из первых генеративных моделей, предков нейросетей, которые сегодня рисуют картинки.

В 1986 году Хинтон вместе с Дэвидом Румельхартом и Рональдом Уильямсом популяризировал метод обратного распространения ошибки: сеть сравнивает свой ответ с правильным и подправляет веса от конца к началу. На этом методе учатся почти все современные нейросети. А в 2012 году его ученики Алекс Крижевский и Илья Суцкевер построили сеть AlexNet, которая с огромным отрывом победила в конкурсе по распознаванию изображений. С этого начался бум глубокого обучения.

Почему это физика

Многие физики возмущались: нейросети это информатика. Комитет ответил, что лауреаты использовали инструменты физики, понятия энергии, равновесия и статистики многих частиц, чтобы создать основу машинного обучения. А теперь машинное обучение помогает самой физике: обрабатывать данные с ускорителей, искать новые материалы, анализировать снимки телескопов.

В тот же год премию по химии дали за компьютерное предсказание формы белков, тоже с помощью нейросетей. Об этом статья про AlphaFold.

Предупреждение Хинтона

В 2023 году Хинтон ушёл из компании Google, где работал десять лет, чтобы свободно говорить об опасностях искусственного интеллекта. Он считает, что ИИ может обогнать людей быстрее, чем кажется, и что нужно заранее думать, как держать его под контролем. В нобелевских интервью он повторил это предупреждение.

Его мнение разделяют не все учёные, но вопрос серьёзный. Для школьника из этого следует простое: нейросеть мощный инструмент, но она ошибается и не думает за нас. Почему ИИ уверенно выдаёт неправду, разобрано в статье почему нейросеть врёт.

Частые вопросы