Стоит ли использовать ChatGPT «бесплатно»?

Поскольку модель GPT-OSS работает непосредственно на обычном компьютере, она имеет низкую скорость отклика, и чаще возникают «фантомные изображения».

Компания OpenAI только что запустила GPT-OSS, первую открытую модель взвешенного искусственного интеллекта с 2018 года. Ключевой особенностью является то, что модель распространяется бесплатно; пользователи могут загрузить, настроить и развернуть её на обычном компьютере. (Изображение: OpenAI )

GPT-OSS выпускается в двух версиях: версия с 20 миллиардами параметров (GPT-OSS-20b) может работать на компьютерах с минимальным объемом оперативной памяти 16 ГБ, а версия со 120 миллиардами параметров (GPT-OSS-120b) — на графическом процессоре Nvidia с 80 ГБ памяти. По данным OpenAI, версия с 120 миллиардами параметров эквивалентна o4-mini, а версия с 20 миллиардами параметров работает аналогично модели o3-mini.

Версии GPT-OSS распространяются через несколько платформ, таких как Hugging Face, Azure или AWS, под лицензией Apache 2.0. Пользователи могут загрузить и запустить модель на своих компьютерах, используя такие инструменты, как LM Studio или Ollama. Эти программные продукты распространяются бесплатно и имеют простой, удобный интерфейс. Например, LM Studio позволяет пользователям выбрать и загрузить GPT-OSS при первом запуске.

Версия GPT-OSS с 20 миллиардами параметров занимает примерно 12 ГБ. После загрузки пользователи перенаправляются на интерактивный интерфейс, похожий на ChatGPT. В разделе выбора модели нажмите на gpt-oss 20B от OpenAI и подождите около минуты, пока модель запустится.

Как и другие популярные модели, GPT-OSS-20b поддерживает взаимодействие на вьетнамском языке. При тестировании на iMac M1 (16 ГБ ОЗУ) с командой «Hello» модели потребовалось примерно 0,2 секунды для распознавания и 3 секунды для ответа. Пользователи могут щелкнуть значок графического планшета в правом верхнем углу, чтобы настроить шрифт, размер шрифта и цвет фона для более удобного чтения.

На вопрос «Что вы можете сделать?» GPT-OSS-20b практически мгновенно понимает и переводит команду на английский язык, а затем постепенно выводит ответ. Поскольку модель работает непосредственно на компьютере, пользователи могут часто сталкиваться с зависаниями системы во время обработки данных и ответа, особенно при решении сложных вопросов.

Однако GPT-OSS-20b столкнулся с трудностями уже при решении вопроса о 13-м президенте США. Согласно документации OpenAI, GPT-OSS-20b набрал 6,7 балла в оценке SimpleQA, связанной с проверкой точности. Это значительно ниже, чем у GPT-OSS-120b (16,8 балла) или o4-mini (23,4 балла).

Аналогично, при выполнении команды на запись и анализ контента GPT-OSS-20b дал неверный ответ и неправильно истолковал последнюю часть предложения. По мнению OpenAI, это «предсказуемо», поскольку у меньших моделей меньше знаний, чем у больших, а значит, «иллюзия» возникает чаще.

Для решения основных вычислительных и аналитических задач GPT-OSS-20b отвечает достаточно быстро и точно. Конечно, время отклика модели медленнее из-за её зависимости от вычислительных ресурсов. Версия с 20 миллиардами параметров также не поддерживает поиск информации в интернете.

GPT-OSS-20b выполняет простые задачи сравнения и анализа чисел и букв примерно за 10-20 секунд. По данным The Verge , эта модель была запущена OpenAI после бурного развития моделей с открытым исходным кодом, включая DeepSeek. В январе генеральный директор OpenAI Сэм Альтман признал, что «выбрал неверное направление», не выпустив модель с открытым исходным кодом.

Команды, требующие нескольких шагов или сложных данных, станут настоящим испытанием для GPT-OSS-20b. Например, модели потребовалось почти 4 минуты, чтобы извлечь первые 100 символов после десятичной точки в числе пи. Первоначально GPT-OSS-20b нумеровала каждую цифру по отдельности, затем перенаправляла их на группировку в группы по 10 последовательных символов, после чего суммировала и сравнивала результаты. Для сравнения, ChatGPT, Grok или DeepSeek отвечают на тот же вопрос всего за 5 секунд.

Пользователи также могут попросить GPT-OSS-20b написать простой код, например, на Python, или нарисовать векторную графику (SVG). При выполнении команды "Создать SVG-изображение кошки, перепрыгивающей через забор" модели требуется около 40 секунд для вычисления результата и почти 5 минут для записи выходных данных.

Некоторые сложные команды могут потреблять большое количество токенов. По умолчанию каждая ветка диалога поддерживает 4906 токенов, но пользователи могут нажать кнопку «Настройки» рядом с панелью выбора модели выше, изменить количество токенов по своему усмотрению в разделе « Длина контекста» , а затем нажать «Перезагрузить», чтобы применить изменения . Однако LM Studio отмечает, что установка чрезмерно большого лимита токенов может привести к значительному потреблению оперативной или видеопамяти.

Поскольку программа работает непосредственно на устройстве, время отклика может варьироваться в зависимости от оборудования. На iMac M1 с 16 ГБ оперативной памяти выполнение сложной вычислительной команды, подобной приведенной выше, заняло у GPT-OSS-20b около 5 минут на обдумывание и обработку, в то время как ChatGPT потребовалось всего около 10 секунд.

Что касается безопасности, OpenAI утверждает, что это самая тщательно протестированная на сегодняшний день открытая модель компании. Компания сотрудничала с независимыми организациями по проверке, чтобы гарантировать, что модель не представляет рисков в таких чувствительных областях, как кибербезопасность или биология. Процесс вывода GPT-OSS находится в открытом доступе, что помогает выявлять неправомерные действия, подделку или злоупотребления.

Помимо LM Studio, пользователи могут загрузить несколько других приложений для запуска GPT-OSS, например, Ollama. Однако для работы этого приложения требуется окно командной строки (терминал) для загрузки и запуска модели перед переключением на обычный интерактивный интерфейс. На компьютерах Mac время отклика при работе с Ollama также дольше, чем с LM Studio.

Источник: https://znews.vn/chatgpt-ban-mien-phi-lam-duoc-gi-post1574987.html