Алексей Хохлов

При подготовке доклада об инструментах искусственного интеллекта для обработки научной информации на завершающейся сегодня в Институте органической химии РАН конференции «Искусственный интеллект в химии и материаловедении» мне пришлось несколько подробнее погрузиться в тематику, связанную с обучаемыми нейронными сетями. В связи с этим хотел бы здесь высказать несколько общих соображений.

1. Нет ничего сложного в построении обучаемой нейронной сети – это просто математический прием. Впрочем, этот прием обладает большой общностью, его можно применить к широкому спектру задач.

2. Этот прием имеет лишь очень опосредованное отношение к тому, как работает человеческий мозг. Нейронная сеть и нейроны мозга, искусственный интеллект и естественный интеллект – разные сущности. Не стоит приписывать обученной нейронной сети человеческие качества – это будет все равно, что обижаться на ответы телефонного автоответчика.

3. С учетом этого, непонятна логика распространявшегося весной этого года открытого письма «визионеров в области высоких технологий» (Илон Маск, Стив Возняк и др.) с призывом приостановить на полгода обучение нейросетей. Обучение нейросетей это математический прием (не самый сложный) – как интегрирование по частям или метод градиентного спуска. С тем же успехом можно запретить на полгода интегрировать по частям. Но открытое письмо визионеров создало некий «флер загадочности» вокруг всего этого дела.

4. Понятен взрыв интереса к нейронным сетям, который возник в связи с тем, что они начали обучаться на больших массивах текстов («большие языковые модели»). Появилась очень удачная и универсальная реализация такой модели – чат-бот ChatGPT от компании OpenAI. Надо только понимать, что обученная нейронная сеть выдает наиболее вероятную, а вовсе не точную достоверную (т.е. научную) информацию.

5. Для целей научных исследований обученные нейронные сети можно использовать, но как вспомогательный прием. И иногда этот прием работает очень эффективно – это было показано в ряде докладов на конференции «Искусственный интеллект в химии и материаловедении». Однако при анализе полученных данных всегда надо включать «естественный интеллект». Скажем, в одном из докладов по применению нейронных сетей в молекулярном моделировании говорилось о том, что надо было прибегать к специальным ухищрениям, чтобы выполнялись законы сохранения. Эти законы точные, а нейронная сеть по своей природе дает лишь вероятные ответы.

6. В ближайшее время обучаемые нейронные сети будут применяться к большому числу разнородных задач, поэтому важно, чтобы этим методом овладело как можно большее число молодых специалистов (что должно включать и понимание границ применимости метода). Необходимо активно внедрять разделы по нейронным сетям в вузовские курсы. Повторяю, ничего сложного или даже «загадочного» в искусственном интеллекте нет – там все доступно для понимания первокурснику естественнонаучного или технического вуза. Например, можно было бы преподавать основы теории нейронных сетей в курсе линейной алгебры (возможно, назвав его немного по-другому, поскольку для нейронных сетей важна нелинейность функции активации). В идеале, умение пользоваться методом нейронных сетей должно быть столь же необходимым атрибутом ученого или инженера, как умение пользоваться логарифмической линейкой сто лет назад.

7.9K views11:36