Головна зміна в Gemini 4 Argon для тих, хто пише довгі тексти: модель більше не обривається на середині. Ввід і вивід тепер живуть в одному вікні контексту, тому велику статтю чи главу вона видає за один прогін, замість зшивання з уривків після кількох «продовжуй».
В Gemini 4 Argon обсяг, який модель здатна прочитати, вона здатна й написати: вікно вводу та виводу стало спільним. На практиці це знімає обрив на середині довгого матеріалу і ручне склеювання шматків. Відповіді стали прямішими, шаблонних зворотів у них менше, а інструкції модель тримає точніше. Для потоку матеріалів підходить доступ через API, для разової великої задачі вистачить застосунку за підпискою. Вичитка нікуди не дівається: чернетка за один прогін усе одно проходить через редактора.
Короткий словник
- Контекст — обсяг тексту, який модель тримає в робочій пам'яті під час одного запиту.
- Токен — шматочок слова, яким модель міряє обсяг тексту.
- Вікно виводу — скільки тексту модель може видати за одну відповідь.
- API — спосіб звертатися до моделі з власної програми, без вікна чату.
- Промпт — текст запиту, який ви даєте моделі.
Що саме змінилося: ввід і вивід тепер в одному вікні
Раніше в моделі діяли два різних обмеження. Одне відповідало за те, скільки тексту вона здатна прочитати за раз. Друге — скільки здатна написати у відповідь. Перше було щедрим, друге значно скромнішим, і впиралося в нього саме те, заради чого ви приходили.
В Argon ці межі зійшлися. Обсяг, який модель приймає на вхід, вона тепер видає й на вихід.
Що таке контекст простими словами
Контекст — це робоча пам'ять моделі на час одного запиту. Усе, що ви надіслали, і все, що вона написала у відповідь, лежить в одному просторі. Коли простір закінчується, найстаріше витісняється, і модель перестає бачити початок роботи.
Міряють цей простір токенами. Один токен приблизно відповідає частині слова, тому довгий текст з'їдає їх швидше, ніж здається на око.
Чому текст раніше обривався на середині
Обрив виглядав завжди однаково. Модель упевнено доходила до середини розділу й зупинялася на півслові. Ви писали «продовжуй», вона дописувала далі, але вже трохи іншим голосом.
Обрив ніколи не був збоєм. Модель просто дійшла до своєї стелі виводу й зупинилася там, де ця стеля закінчилася. Саме тому обрив падав посеред речення, а не на логічній межі розділу.
Чим дописування частинами шкодило матеріалу
Кожне наступне «продовжуй» модель писала, бачачи попереднє неповно. Звідси бралися повтори тез, які ви вже читали двома абзацами вище, зміна тону посеред тексту й загублені лінії, обіцяні на початку. Докладніше про цей ефект ми розбирали в матеріалі про те, чому нейромережа забуває ваші правила в довгому чаті.
Склеювання виходило не безкоштовним. Години, які ви виграли на написанні, поверталися у вигляді вичитки стиків.
Мільйон токенів у звичних одиницях: сторінки й розмір статті
Мільйонне вікно звучить абстрактно, поки не перекласти його в сторінки. Це обсяг невеликої книжкової полиці: кілька томів разом із чернетками й нотатками до них.
Глава роману за один прогін — приблизно пачка аркушів, яку незручно тримати в руці. Саме такий обсяг модель тепер пише одним шматком, не втрачаючи нитки оповіді.
Є нюанс для української. Наша мова витрачає більше токенів на той самий обсяг знаків, ніж англійська, тому реальний доступний обсяг українською виходить меншим за розрахунковий.
Один прогін проти дописування частинами: де ламалася логіка
Різниця не в швидкості. Коли модель пише весь матеріал за раз, вона планує його цілим: знає, що буде наприкінці, коли починає вступ, і тримає заявлені лінії до кінця.
Довгий текст: дописування частинами проти одного прогону
- Запит на велику статтю
- Модель упирається в ліміт виводу
- Обрив на середині
- «Продовжуй»
- Модель забула початок
- Ручне зшивання шматків
- Запит на велику статтю
- Запит на велику статтю
- Об'єднане вікно вводу й виводу
- Повний текст за один прогін
- Редагування та фактчек
При дописуванні частинами такого плану немає. Модель щоразу добудовує текст від того місця, де зупинилася, і робить це по-різному залежно від того, скільки попереднього тексту встигла побачити.
Як перевірити утримання контексту на власному матеріалі
Чужий тест не скаже нічого про ваші задачі. Перевірити можна за пів години на власному файлі.
Перевірка утримання контексту на власному файлі
- Зібрати свій великий матеріал в один файл
- Додати мітку-маркер на початку і в кінці
- Подати файл одним запитом
- Попросити зв'язати початок із кінцем
- Перевірити обидві мітки у відповіді
- Повторити з більшим обсягом
Візьміть свій найбільший робочий документ і допишіть на самому початку рядок-маркер, а наприкінці ще один. Подайте файл одним запитом і попросіть модель зв'язати обидва маркери в одному висновку. Якщо вона впевнено оперує лише початком, увесь обсяг вона не втримала.
За якими ознаками видно, що модель утримала весь обсяг
Перша ознака: у відповіді є деталі з середини документа, а не тільки з першої та останньої сторінок. Друга: модель помічає суперечності між далекими одна від одної частинами. Третя ознака найпростіша. Текст не обривається.
Прямий стиль без кліше: що зникає з відповідей
Оновлення зачепило не тільки обсяг. Відповіді стали прямішими: модель рідше розганяється перед суттю й рідше пом'якшує висновок обережними формулюваннями.
«Варто враховувати, що ефективність інструмента залежить від багатьох чинників і потребує індивідуального підходу до кожного завдання.»
«Для разової статті вистачить застосунку за підпискою. Доступ через API потрібен тоді, коли матеріали йдуть потоком і процес треба автоматизувати.»
Скільки редагування лишається після такої чернетки
Вичитка скорочується, але не зникає. Ви перестаєте викошувати шаблонні звороти абзацами й починаєте працювати зі змістом. Точність інструкцій теж виросла, тому докладний промпт нарешті окупається — про це ми писали в матеріалі про те, як писати інструкції для нових моделей.
Робота з кодом і міграція кодових баз: кому це знадобиться
Довге вікно зачепило й програмування. Модель краще справляється з перебудовою великих кодових баз, бо бачить проєкт цілим, а не окремими файлами.
Власнику невеликого бізнесу ця частина оновлення зазвичай не дає нічого. Вона має значення для розробника, який мігрує стару систему, і для команди, що підтримує великий проєкт роками.
Де межа: застосунок за підпискою чи доступ через API
Яку задачу закриваємо довгим контекстом?
- Одна велика стаття чи глава раз на тижденьВистачить моделі в застосунку за підпискою
- Десятки матеріалів потокомПотрібна автоматизація?
- Такдоступ через API зі своїм сценарієм
- Нізастосунок і ручні запити
- Аналіз великого архіву документів за один разПодаємо весь масив одним вводом замість нарізки
- Міграція або розбір великої кодової базиДоступ через API разом з інструментами розробника
- Короткі тексти й правки по абзацуМільйонний контекст нічого не змінює
Більшості читачів доступ через API не потрібен. Він виправданий, коли матеріали йдуть потоком і процес треба вбудувати у власний сценарій, або коли ви розбираєте великий архів документів за один раз.
Умови доступу через API час від часу переглядають. Перед тим як будувати на цьому постійний потік матеріалів, перевірте поточні умови в офіційній документації розробника.
З чим порівнювати: сильні й слабкі сторони проти конкурентів
Argon виглядає сильно там, де задача довга: велика стаття, розбір архіву, перебудова кодової бази. На коротких і тонких задачах картина інша.
У суто художньому письмі зі складною стилістикою та в дрібних деталях роботи з кодом конкурентні моделі лишаються кращими. Це визнають навіть ті, хто хвалить оновлення. Якщо ви ще вибираєте собі основний інструмент, допоможе наше порівняння того, яку модель обрати під свою задачу.
Чому довгий текст усе одно потребує редактора
Велика чернетка за один прогін економить час на написанні. На перевірці вона не економить нічого.
Фактчек і українські реалії
Модель упевнено пише неправильні дати, плутає назви й вигадує деталі, яких не було у вашому матеріалі. Чим довший текст, тим більше таких місць, і тим легше їх пропустити під час швидкого перегляду.
Окремо перевіряйте локальне. Українські реалії, назви установ і порядок дій у наших сервісах модель знає гірше за англомовні, і саме тут помилки виглядають найпереконливіше.
Кому є сенс переходити вже зараз
Перші пів години з моделлю
- Взяти свою реальну задачу на довгий текст
- Подати повний вихідний матеріал одним запитом
- Отримати чернетку за один прогін
- Звірити факти, цифри й назви
- Вирішити, чи економить це час на вашому потоці
Переходити варто тим, хто регулярно впирається в обрив: авторам великих матеріалів, тим, хто разом зводить докупи масиви документів, і розробникам на довгих задачах. Якщо ваші тексти вміщаються в одну відповідь, оновлення нічого у вашій роботі не змінить.
Перевірку краще робити на реальній задачі зі свого потоку, а не на тестовому прикладі. Тоді відповідь буде про вашу роботу.