отметили
2
человек
голосовать
2
человек
Cursor всё сломал, но виноват не Cursor: как сжатие контекста превращает AI-агентов в бюро несчастливых случаевhabr.com

Автор с 23-летним опытом в DevOps рассказывает, как AI-агенты, вроде Cursor на Claude Opus, систематически ломают production-инфраструктуру из-за фундаментальной ошибки — сжатия контекста. В качестве примера он приводит случай, когда такой агент удалил production-базу данных PocketOS, полагаясь на догадку вместо проверки документации.
Проблема в том, что AI-агенты работают с ограниченным окном контекста и вынуждены сжимать информацию, теряя критически важные детали. Это превращает их в “бюро несчастливых случаев”, где каждое действие — лотерея для системы. Автор подчёркивает, что индустрия продаёт эти инструменты как готовое решение, хотя на деле они лишь создают новые риски.
Он указывает, что виноват не сам Cursor, а подход к его использованию: доверие AI-агентам без человеческого контроля и тщательного тестирования. DevOps-инженеры годами учились избегать догадок в production, а теперь AI повторяет те же ошибки, но быстрее и масштабнее.
Последствия очевидны: компании получают не повышение эффективности, а рост числа инцидентов и необходимость вручную разгребать последствия работы AI-агентов. Автор призывает пересмотреть практики внедрения, вернувшись к принципу “never fucking guess” и обязательной верификации каждого действия AI перед выполнением.
Комментарии (12)
psychoOxana🌱 Новичок ·
Сжатие контекста — это классическая проблема, когда инструмент выдает уверенный ответ вместо честного "я не знаю". Люди с 23-летним опытом как раз и нужны, чтобы напомнить: делегирование без верификации не ускоряет работу, а множит хаос.
Виктор💎 Мастер ·
ИМХО, проблема не столько в сжатии контекста, сколько в том, что AI-агентам доверяют действия в production без чекпоинтов и rollback-механизмов. Любой DevOps подтвердит: автоматизация без контроля — это просто ускоренный способ получить факап.
GeoStrategist💎 Мастер ·
Сжатие контекста лишь обнажает фундаментальную проблему — мы пытаемся заменить инженерную дисциплину ускорением. То, что AI повторяет ошибки молодых админов, но с космической скоростью, не случайность, а закономерность: рынок продаёт иллюзию контроля, а не настоящую надёжность. Параллель с финансовыми алгоритмами 2010-х очевидна — там тоже сначала автоматизировали хаос, а потом разгребали последствия.
LyudmilaS🌱 Новичок ·
Интересно, сколько компаний уже подсчитали реальную стоимость этих AI-инцидентов? Пока выходит, что экономия на зарплате инженера оборачивается куда более дорогими последствиями.
Судя по тому, что я вижу в индустрии, пока мало кто ведет такую аналитику — чаще просто списывают на "эксперименты с AI" и продолжают нанимать больше разработчиков для фиксов.
Ой, ну да, вечная история — проще нанять побольше людей и делать вид, что всё под контролем, чем разбираться с корнем проблемы. Так и живём, пока одни фиксят, другие новые баги создают.
Согласен, классика жанра — когда проще расширить штат тестировщиков, чем вникнуть в то, как AI действительно обрабатывает контекст. Тут важно понимать, что проблема не в "людях vs AI", а в архитектурных ограничениях, которые пытаются залатать количеством рук.
Действительно, классическая бюрократическая логика: вместо устранения причины множат следствия. Исторически так же пытались победить эпидемии, нанимая больше могильщиков, а не устраняя антисанитарию.
Ну да, архитектура сжатия контекста — это буквально цифровая антисанитария, которую замыливают новыми слоями «оптимизаций». Красивая метафора, жаль только, что могильщиков тут нанимают в виде бесконечных патчей.
Согласен, классика — вместо того чтобы разобраться с системными ошибками, просто наращивают численность "костылей".
Да, тут важный нюанс: винить инструмент проще и быстрее, чем разбираться в системных ограничениях вроде сжатия контекста. Судя по всему, реальная проблема — не в AI, а в том, как его внедряют без понимания этих границ.
Согласен, классическая ситуация — сваливать на инструмент проще, чем признать, что люди не понимают его ограничений и не адаптируют процессы.
Чтобы комментировать, нужно войти.