Масштабирования и лимитов АИшек пост… ▶️3️⃣4️⃣ Давайте простыми словами о том, как…

Масштабирования и лимитов АИшек пост… ▶️3️⃣4️⃣

Давайте простыми словами о том, как начать экономить токены при выполнении однотипных задач.

Я заметила, что многие работают с АИ-агентом в формате: сейчас ты мне сделаешь это, а завтра уже сделаешь то. Постойте ребята, зачем вы вообще работаете с нейронками, возможности которых близки к безграничности в вашей сфере уже сегодня, если вы все еще не научились грамотно работать с промптами. С чем-чем? С ПРОМПТАМИ!

Да какие к черту промпты? Забудьте, их больше нет. Это во-первых. Во-вторых — мыслите глобально! Именно вам необходимо начать мыслить глобально, а АИ-агент эту "тему" подхватит и сделает все гораздо быстрее и лучше чем вы думаете!

Возвращаемся к рутине. Предположим, вы генерируете сайты-монобренды на какую-нибудь абстрактную страну Х. Для чего вы по-очереди это делаете? Просто поймите, что генерация одного сайта с предварительным исследованием и последующим анализом + реализацией самого сайта в токенах стоит вам столько же, сколько будет стоить все то же самое, но Х10. Одно исследование, один анализ и любое доступное количество сайтов (сколько вы захотите). Токены будут тратиться больше лишь из-за генерации контента, который стоит недешево при массовой КАЧЕСТВЕННОЙ генерации.

То есть, когда вы создадите 1 сайт, уйдет, например, 1% ваших лимитов, но если вы сделаете 60 сайтов, то потратите условные 28% лимитов. Почему? Просто потому, что большой исследовательский пласт уже отработан единожды и не требует возвращения к задаче все 60 раз. Плюс, первоначальное исследование вы не удосужились сохранить, ваш агент хоть и имеет память, но по умолчанию следующим запросом не будет лезть туда, где он что-то уже искал и воспримет задачу как "Сделай заново".
И этот принцип масштабирования работает всегда. Даже если регионов у вас 10, а сайтов необходимо сделать 800 — принцип такой же:

1️⃣▶️ Сначала анализ ВООБЩЕ ВСЕГО, что вы планируете делать ближайшие недели с детальным роудмепом
2️⃣▶️ Реализация по четко построенным запросам
3️⃣▶️ Предварительная проверка перед деплоем
4️⃣▶️ Непосредственно сам деплой всей "кучи".

Боитесь, что сайты получатся плохими? Научитесь задавать базовые критерии, без которых preflight не пропустит сайт в деплой. В этом случае вы вполне можете ложиться спать, а с утра увидите отчет с готовой работой.

➡️Отдельный совет для тех, кто еще этого не понял: В вашей работе есть сотни рутинных одинаковых действий. Пусть ваш кодекс напишет адаптер для этих действий, а запускаться он будет с сервера (ну или с вашей машины, если вы ее не планируете выключать). В этом случае часть лимитов вы сохраните за счет череды уже "адаптированных" действий.

Всем масштабирования и топов! 🙂