Стоит ли использовать ChatGPT «бесплатно»?

Поскольку модель GPT-OSS работает непосредственно на обычном компьютере, она имеет низкую скорость отклика, и «галлюцинации» случаются чаще.

Компания OpenAI только что запустила GPT-OSS — первую с 2018 года модель ИИ с открытыми весами. Важной особенностью является то, что модель распространяется бесплатно: пользователи могут скачать её, настроить и развернуть на обычных компьютерах. Фото: OpenAI .

GPT-OSS доступен в двух версиях: одна с 20 миллиардами параметров (GPT-OSS-20b) может работать на компьютерах с объёмом оперативной памяти всего 16 ГБ. Версия со 120 миллиардами параметров (GPT-OSS-120b) может работать на видеокартах Nvidia с объёмом памяти 80 ГБ. По данным OpenAI, версия со 120 миллиардами параметров эквивалентна модели o4-mini, а версия с 20 миллиардами параметров по производительности аналогична модели o3-mini.

Версии GPT-OSS распространяются на нескольких платформах, таких как Hugging Face, Azure или AWS, под лицензией Apache 2.0. Пользователи могут загрузить и запустить модель на своих компьютерах с помощью таких инструментов, как LM Studio или Ollama. Эти программы предоставляются бесплатно и обладают простым и удобным интерфейсом. Например, LM Studio позволяет выбирать и загружать GPT-OSS с первого запуска.

Версия GPT-OSS с 20 миллиардами параметров занимает около 12 ГБ. После загрузки пользователь попадает в интерактивный интерфейс, аналогичный ChatGPT. В разделе выбора модели выберите OpenAI gpt-oss 20B и подождите около минуты, пока модель запустится.

Как и другие популярные модели, GPT-OSS-20b поддерживает вьетнамский язык. При тестировании на iMac M1 (16 ГБ ОЗУ) при выполнении команды «Hello» модели потребовалось около 0,2 секунды для вывода и 3 секунды для ответа. Пользователи могут нажать на значок доски в правом верхнем углу, чтобы настроить шрифт, его размер и цвет фона интерфейса для удобства чтения.

На вопрос «Что вы умеете делать?» GPT-OSS-20b практически сразу понимает и переводит команду на английский язык, а затем постепенно выдаёт ответ. Поскольку GPT-OSS-20b работает непосредственно на компьютере, пользователи часто сталкиваются с зависаниями, пока модель делает выводы и отвечает, особенно при ответах на сложные вопросы.

Однако GPT-OSS-20b столкнулся с трудностями при выполнении запроса о 13-м президенте США. Согласно документации OpenAI, GPT-OSS-20b набрал 6,7 балла на тесте SimpleQA, который проверяет точность. Это значительно ниже, чем у GPT-OSS-120b (16,8 балла) или o4-mini (23,4 балла).

Аналогично, в команде, требующей записи и анализа контента, GPT-OSS-20b ответил неверно и перефразировал последнее предложение. По мнению OpenAI, это «ожидаемо», поскольку малые модели обладают меньшим объемом знаний, чем большие, а значит, «иллюзия» более вероятна.

На базовые вопросы расчётов и анализа GPT-OSS-20b отвечает довольно быстро и точно. Конечно, время отклика модели меньше из-за её зависимости от ресурсов компьютера. Версия с 20 миллиардами параметров также не поддерживает поиск информации в интернете.

GPT-OSS-20b выполняет простые задачи сравнения и анализа чисел и букв примерно за 10–20 секунд. По данным The Verge , модель была выпущена OpenAI после бурного развития моделей с открытым исходным кодом, включая DeepSeek. В январе генеральный директор OpenAI Сэм Альтман признал, что «сделал неправильный выбор», не выпустив модель в открытый исходный код.

Команды, требующие многошаговой обработки или сложных данных, сложны для GPT-OSS-20b. Например, модели потребовалось почти четыре минуты, чтобы извлечь первые 100 знаков после запятой в числе «пи». GPT-OSS-20b сначала нумерует каждую цифру, затем переходит к группировке по 10 смежных знаков, а затем суммирует и сравнивает результаты. Для сравнения, ChatGPT, Grok и DeepSeek потребовалось около пяти секунд, чтобы ответить на тот же вопрос.

Пользователи также могут попросить GPT-OSS-20b написать простой код, например, на Python, или нарисовать векторную графику (SVG). Для команды «Создать SVG-изображение кошки, прыгающей через забор» модели потребовалось около 40 секунд на обработку и почти 5 минут на запись результатов.

Некоторые сложные команды могут потреблять большое количество токенов. По умолчанию каждая ветка диалога поддерживает 4906 токенов, но пользователи могут нажать кнопку «Настройки » рядом с панелью выбора модели выше, настроить нужное количество токенов в разделе «Длина контекста» и нажать «Перезагрузить», чтобы применить изменения . Однако LM Studio отмечает, что слишком большое ограничение на количество токенов может привести к значительному потреблению оперативной и видеопамяти компьютера.

Поскольку модель работает непосредственно на устройстве, время отклика может варьироваться в зависимости от аппаратного обеспечения. На iMac M1 с 16 ГБ оперативной памяти для выполнения сложного вычисления, подобного приведённому выше, GPT-OSS-20b требуется около 5 минут, в то время как ChatGPT — около 10 секунд.

Что касается безопасности, OpenAI утверждает, что это самая тщательно проверенная открытая модель компании на сегодняшний день. Компания сотрудничала с независимыми экспертами, чтобы гарантировать отсутствие рисков в таких чувствительных областях, как кибербезопасность или биотехнологии. Процесс вывода GPT-OSS доступен для публичного просмотра, что помогает выявлять предвзятость, фальсификацию или злоупотребления.

Помимо LM Studio, пользователи могут загрузить и другие приложения для работы с GPT-OSS, например, Ollama. Однако этому приложению требуется окно командной строки (терминал) для загрузки и запуска модели, а затем переключение в обычный интерактивный интерфейс. На компьютерах Mac время отклика при работе с Ollama также больше, чем с LM Studio.

Источник: https://znews.vn/chatgpt-ban-mien-phi-lam-duoc-gi-post1574987.html