Розробник гри UNSEEN зіткнувся з цікавою проблемою під час тестування: невелика модель ШІ, яку він використовував для аналізу фотографій, мала схильність до вигадок. Коли він показував моделі два випадкові знімки, вона майже завжди вигадувала зв'язок між ними, демонструючи впевненість, яка не підкріплювалася фактами. Це змусило автора переосмислити роль штучного інтелекту в ігровому процесі.
UNSEEN — це гра, яка спонукає користувачів виходити на вулицю, помічати реальні об'єкти та фотографувати їх. Основна ідея полягає в тому, що ШІ має лише описувати побачене, а не приймати рішення про те, чи є це відкриття справжнім. Для цього була створена система під назвою «ворота доказів», яка діє як суворий суддя, базуючись на логіці, а не на творчих припущеннях.
Технічно розробник використовував модель Qwen3-VL-2B через Ollama для локальної обробки зображень. Це дозволило уникнути витрат на хмарні API та забезпечити приватність даних. Однак виявилося, що модель часто додавала до своїх відповідей фрази про невпевненість, які система помилково сприймала як ознаки синтетичного контенту, що призводило до відмови у нагородах для реальних фото.
Проблема полягала в тому, що код аналізував усі вихідні дані моделі, включаючи її власні сумніви. Коли модель згадувала можливість того, що фото є цифровим рендером, система автоматично блокувала нагороду. Це було виправлено шляхом точного налаштування логіки класифікації, щоб відокремити технічні сумніви ШІ від реальної оцінки фізичних об'єктів у кадрі.
Крім того, розробник виявив, що стандартні тестові знімки, які використовувалися для демонстрації, були зроблені в приміщенні. Оскільки гра розрахована на зовнішні дослідження, ці фото за замовчуванням отримували нульовий рейтинг. Це створювало хибне враження, що система розпізнавання не працює, хоча насправді вона просто виконувала свої правила, відсікаючи невідповідні умови.
Цей досвід підкреслює важливість детермінованого контролю в системах, що покладаються на ШІ. Замість того, щоб дозволяти моделі вирішувати долю гравця, автор використав її як інструмент для структурування даних, залишаючи остаточне рішення за жорстким програмним кодом. Такий підхід робить гру надійною та справедливою, перетворюючи технологію на помічника, а не на джерело випадкових галюцинацій.
🔗 Першоджерело: Читати оригінал