Цей безкоштовний робочий простір LLM зробив моє налаштування чат-бота смішним

Три вкладки веб-переглядача, до кожної з яких прикріплено одне запитання, а також кілька вкладок, щоб відповіді були правильними. Це поширений спосіб порівняння моделей штучного інтелекту, і багато людей об’єднують безкоштовні чат-боти, щоб ніколи не платити за них.

Msty Studio робить те саме в одному вікні. Він запускає кілька моделей проти однієї лінії, розміщує відповіді одна за одною, а безкоштовний рівень охоплює все, що мені потрібно. Порівняння стало менше щодо того, які відповіді я отримую, а більше щодо того, наскільки я їм довіряю.

Msty Studio розміщує кожну модель в одному вікні

Кожна панель підтримує власний контекст, і це важливо

Msty Studio — це робочий простір для робочого столу CloudStack, який отримує доступ до локальних моделей і хмарних провайдерів через єдиний інтерфейс. Він працює в Windows, macOS і Linux і не потребує облікового запису перед його запуском.

Я пропустив локальну модель, яку він пропонує під час встановлення, оскільки маленькі моделі ноутбуків середнього класу досить повільні, щоб дратувати. На його місце прийшов комутатор OpenRouter, який об’єднує десятки провайдерів за єдиними обліковими даними. Існують інші безкоштовні інструменти, які запускають штучний інтелект на вашому комп’ютері без підписки, і деякі з них прекрасно запускають модель. Msty Studio краще в порівнянні.

Я додав три моделі з трьох різних лабораторій, а саме Google Gemma 4 31B, NVIDIA Nemotron 3 Ultra та Z.ai GLM 5.2. Розподілені чати надають кожній панелі власну історію чатів, тому кожна панель може відповідати незалежно, не дивлячись на те, що згенерували інші.

Ця незалежність – не деталь. Спочатку я провів свої тести в одному потоці, і одна з панелей міркувань моделі чітко сказала, що для різноманітності вибирається інша відповідь, ніж минулого разу. Це було для того, щоб уникнути повторень, щоб не нарікати, і я написав це як справжню дивізію.

Де ці три моделі поєднуються, а де розходяться?

Розбіжності – це сфера, яка заслуговує вашої уваги

Тож я поставив усім трьом те саме запитання.

Про те, що здали, всі троє сказали те саме. Пожертвуйте спеціальною відеокартою, металевим корпусом преміум-класу та дисплеєм із високою роздільною здатністю. Три моделі з трьох лабораторій, одна відповідь, і така домовленість є справедливим сигналом, що питання вирішене.

Потім вони розділяються на пам’ять. GLM і Gemma вимагали 16 ГБ. Nemotoron сказав, що 8 ГБ достатньо, і пішов далі, ніж обидва, перерахувавши ультрапортативний пристрій 13 на 14 дюймів із Core i5 або Ryzen 5, 256 ГБ SSD і IPS-панеллю 1080p за розумними 600 доларів США.

Ця прогалина важлива в цьому бюджеті, тому що представлений ноутбук Nemotoron — це те, куди ви дійсно можете піти.

Безкоштовний чатGPT ідеально вирішує більшість питань і має функції, які раніше були за підпискою. Обмеження є структурним, а не якісним. Одна модель в одній темі не може сказати вам, що інша модель відреагувала б інакше.

Панелі думок показують шлях

Одна модель передумала, перш ніж відповісти

Дискусійна дошка була цікавішою, ніж відповіді. GLM розвинув свою відповідь навколо 8 ГБ оперативної пам’яті, а потім зупинився. На його інформаційній панелі зазначено, що 8 ГБ – це трохи мало для редагування фотографій, і він виправляє це число до 16 ГБ перед експортом.

Ніщо в готовій відповіді не вказує на те, що щось сталося. Прочитайте панель, і ви зрозумієте, що цифра 16 ГБ була другою думкою, а не першим інстинктом, щоб дізнатися, коли інша модель приземлилася десь зовсім в іншому місці.

На панелях також показано, як працюють ці моделі. GLM витратив 14 секунд на числовий розподіл обмежень і переваг. Немотрон коротко подумав і склав три речення. Джемма не надала жодних доказів і відповіла 19,90 балів на секунду проти 56,85 у GLM.

Стоси знань і справжні грані вільного рівня

Більшість із того, що ви хочете, є тут, а дещо точно ні.

Knowledge Stacks керує пошуком. Додайте документи, папки або нотатки, виберіть модель введення, і моделі будуть реагувати не тільки на вивчення даних з вашого матеріалу. Запуск документа з трьох моделей із джерела, яким ви керуєте, покаже різні виділення, де приватні налаштування кожного ШІ можуть мати більше сенсу.

Prompt Studio важливіше, ніж здається. Збереження запиту порівняння один раз означає, що кожен наступний тест виконується з тим самим текстом, і той самий текст є єдиною причиною порівняння відповідей. Обидва користуються безкоштовним планом, а також спілкуються в чаті з місцевими та онлайн-моделями, розділеними чатами, режимом агента та Persona, Skill і Media Studios.

Aurum коштує 149 доларів на рік або 349 доларів за один раз, і він додає Msty Web Studio, Turnstiles, Forge Mode, Insights і Live Contexts. Безкоштовні моделі мають свої обмеження. OpenRouter обмежує їх до 20 запитів на хвилину та 50 на день, доки ви не придбаєте кредит, і постачальники можуть вилучити безкоштовну ємність без попередження.

Джемма тричі зазнала невдачі, перш ніж я заплатив цент, щоб отримати ту саму модель іншим способом. Моделі також тихо змінюються за лаштунками, що є ще однією причиною залишити більше однієї.

Тепер я ставлю запитання по-іншому

Одна підказка, три відповіді та одна причина довіряти

Те, що я хочу в майбутньому від цього робочого простору, — це постійний набір запитів, які я запускаю щоразу, коли рішення справді того варте, вказуючи на мій власний стек довідкових матеріалів замість відкритого Інтернету. Це вихідні для налаштування, і після цього кожне порівняння відбувається швидше.

Для всіх речей, які витрачають ваш час або гроші на помилки, надсилання запиту трьом моделям і читання, що вони не погоджуються, варте кількох хвилин налаштування. Для пошуку, який ви наполовину пам’ятаєте, чат-бот все ще є найшвидшою відповіддю.

ОС

Windows, macOS і Linux

Розробник(и)

Мстий А.І

Цінова модель

безкоштовно

Спілкуйтеся з моделями, упорядковуйте знання, створюйте медіафайли та повторно використовуйте запити в одній конфіденційній робочій області.