За последние пару десятилетий правительства и другие организации потратили миллиарды на обучение людей программированию. Считалось, что это одна из немногих профессий, которая будет безопасна в меняющемся мире, но, как оказалось, написание и обработка кода — это одна из тех задач, для которых модели ИИ подходят лучше всего. Технологические компании уволили более 1 миллиона сотрудников за последние несколько лет, а Microsoft только на прошлой неделе предложила 60 000 выходных пособий. Для людей в индустрии программного обеспечения это страшный и совершенно дезориентирующий момент.

Около месяца назад я написал внутреннюю записку, в которой подробно описал путь внедрения ИИ, которому Proton должен следовать, чтобы оставаться конкурентоспособным и безопасным, а также то, что мы как организация упустили до сих пор и что должны исправить, чтобы этот неизбежный переход стал успешным. Мало кто сомневается, что организации, которые не смогут достаточно быстро трансформироваться, в конечном итоге подведут свои команды и тех, кто на них полагается.

Записка также преследовала другую цель — убедить моих коллег в том, что мы не пассивные участники этих изменений, что компании нужны их таланты и опыт для их осуществления, и что этот переход открывает возможности для тех, кто решит подготовиться к нему и принять в нём участие.

Эта записка не является подробным инженерным документом. В ней не рассматриваются конкретные вопросы безопасности, надёжности или инфраструктуры. Скорее, она указывает направление движения для всей нашей отрасли.

Полный текст записки можно найти ниже.

Скачать PDF-версию манифеста об ИИ(новое окно)


Инженерный манифест об ИИ в Proton

Вряд ли кого-то в Proton это удивит, и меньше всего — в инженерном отделе, но разработка программного обеспечения безвозвратно изменилась в этом году, если не раньше. Большие языковые модели (LLM) и связанные с ними инструменты достигли способности писать код до такой степени, что старший инженер Proton сказал мне несколько дней назад, цитирую: «В {business unit name} больше никто не пишет код». Как запоминание телефонных номеров в XX веке или верховая езда в XIX, написание качественного кода вручную — это ключевой навык, чьё время прошло.

В целом это фантастика. Значительная часть написания кода была и остаётся трудоёмкой и нудной работой, по крайней мере, в производственной среде и при масштабировании. Документирование и тестирование — обе эти задачи необходимы, но мало кто любит их выполнять, и исторически ими часто пренебрегали, что оборачивалось плохой коммуникацией, неэффективностью и проблемами с надёжностью. Шаблонный код — это квинтэссенция рутины в разработке программного обеспечения, и, возможно, людям больше никогда не придётся о нём беспокоиться. Теперь модели могут советовать и предлагать архитектуры и системные проекты, которые, хотя и часто несовершенны, вносят значительный вклад в обсуждение, принятие решений и обучение.

За пределами Proton революция ИИ захватывает мир. Многое из этого — мишура и поверхностные, косметические кампании, которые скорее созданы для того, чтобы казаться инновационными, а не быть таковыми на самом деле. Но многое из этого вполне реально, и инвестиции, которые эти компании (включая наших конкурентов) делают сейчас, определят деловую среду, в которой мы будем работать в будущем. Речь не о погоне за трендами — мы здесь отстаём, и это экзистенциальная угроза успеху самой миссии.

Так почему же в Proton не ощущается, что революция наступила? Почему производительность не выросла резко, если все уже постоянно используют LLM? Я считаю, что дело в трёх вещах, и все их нам нужно исправить, если мы хотим добиться успеха в новую эру, которая уже наступила сегодня, а не находится на подходе.

Первое — это изменение инженерной культуры и мышления инженеров. Ваша работа фундаментально изменилась. Теперь ваша задача — не писать код, и LLM здесь не для того, чтобы помочь вам писать код лучше и быстрее. Ваша задача — помогать LLM писать код лучше и быстрее. Каждый инженер теперь — тимлид, менеджер, а ваши прямые подчинённые — это модели и агенты, которые вы используете. Направлять их напрямую и исправлять, когда они ошибаются, безусловно, входит в обязанности. Но команда из двух человек, которые всегда работали в паре, не была бы особой командой, как и команда, где никто не работает, пока тимлид на совещании. ИИ должен уметь работать автономно и непрерывно, с постоянно уменьшающимся человеческим присмотром. Ваша задача — выявлять проблемы, которые LLM не может решить самостоятельно, и помогать LLM не только решить их в этот раз, но и лучше решать их в следующий раз, не только для вас, но и для всех: контекстные файлы уровня репозитория, общие навыки и промпты, а также привычка гарантировать, что повторяющиеся сбои вызывают расследование и исправление. Ваша задача — расширять границы того, что LLM может делать автономно, вмешиваться в то, что она не может, и всегда думать о том, как улучшить текущее положение вещей.

Это не смерть экспертизы. LLM быстра. Вы медленны, но вы несёте с собой жизненный опыт, способность принимать решения и понимание. Вы также (надеюсь) гораздо меньше подвержены галлюцинациям и обману со стороны вредоносных или злонамеренных входных данных, и вы подотчётны себе, своей команде и Proton так, как модель никогда не сможет быть. Вместе вы можете сделать гораздо больше и гораздо быстрее, чем каждый по отдельности.

Это также не смерть хороших инженерных практик. Поддерживаемость и скорость выше в хорошо спроектированных кодовых базах. Документирование и тесты остаются критически важными. Тем не менее, мы должны быть открыты к изменению лучших практик по мере изменения затрат и возможностей. Тестирование — хороший пример этого. Старая лучшая практика гласит, что слишком много тестов (особенно сквозных тестов) — это плохой компромисс в мире, где написание и поддержка тестов дороги. Если написание и поддержка тестов станут дешёвыми, граница, которую мы проводим, вероятно, тоже изменится.

Вторая причина, по которой мы не смогли в полной мере воспользоваться революцией ИИ, заключается в том, что мы почти полностью застряли на этапе 1 — использовании LLM для ускорения задач в рамках существующих рабочих процессов. Но написание кода — не единственная часть жизненного цикла разработки программного обеспечения, и что происходит, когда вы устраняете узкое место? Его место занимает другое. Возможно, это скорость и пропускная способность CI. Возможно, это проектирование, согласования, спецификации и проверка кода (да, нам нужно и мы придём к тому, что большая часть проверки кода людьми закончится). Возможно, рабочий процесс не сильно меняется, но LLM позволяют нам наконец инвестировать в автоматизацию, которая раньше была экономически невыгодной. Если мы не посмотрим на все наши процессы целостно и безжалостно не устраним узкие места, мы не достигнем нашего полного потенциала. Часто устранение этих узких мест будет включать не только оптимизацию частей наших существующих рабочих процессов, но и их полную переработку и переосмысление. Это этап 2, и нам нужно достичь его сейчас.

Третья причина — это проблема коллективных действий. Эффективно использовать LLM для написания кода — это то, что отдельный инженер может делать для себя. Перестройка или оптимизация процесса CI для всей команды, бизнес-подразделения или компании — это гораздо более тяжёлая задача, и она сопряжена с альтернативными издержками и компромиссами. Это не невозможно, и многие люди в Proton сделали удивительные вещи самостоятельно, некоторые из которых распространились далеко и широко. Но для переоснащения компании в целом требуются значительные организационные усилия и ресурсы, которые мы просто ещё не инвестировали. Что касается обсуждения жизненного цикла разработки программного обеспечения в предыдущем абзаце, во многих случаях мы даже не знаем, где находятся узкие места, потому что мы не инвестировали в инструменты, необходимые для их выявления. В прошлом, возможно, была оправдана некоторая осторожность — потребовалось некоторое время, чтобы понять, как лучше всего использовать эти новые инструменты, и мы продолжим поощрять эксперименты. Но уже пора, как организации, приступить к преобразованиям, которых требует момент.

Итак, что это значит для вас, инженеров? Что ж, ваши полномочия и обязанности расширились. Теперь вы отвечаете не только за выполнение работы, но и за то, как она выполняется, а значит, и за постоянную оптимизацию и максимальную автоматизацию (и обмен этими улучшениями с коллегами — успех в Proton — это командный вид спорта). Вы также обязаны отмечать и передавать наверх необходимые улучшения, которые вы не можете выполнить самостоятельно. Proton, со своей стороны, организует и обеспечит ресурсами критически важные инвестиции, необходимые для прохождения этапа 2 и полной реализации потенциала революции ИИ.

Суть в том, что мы в новом мире. «Программирование» умерло. Инженерия — нет, как и экспертиза. Ваша старая работа ушла. Ваша новая работа как создателя позволит вам делать больше и иметь больше влияния, чем когда-либо, если вы воспользуетесь возможностью. И Proton поможет вам в этом — об этих усилиях вы услышите больше в ближайшие дни и недели. Эра экспериментов продолжается, но действовать нужно сейчас. Будущее здесь — давайте сделаем его нашим.


Изображение на обложке: Bernard Leonardo
Instagram: @dranreboel
веб-сайт: https://dranreboel.myportfolio.com/work