Форум игр +18

Кружок любителей игр

Объявление

Информация о пользователе

Привет, Гость! Войдите или зарегистрируйтесь.


Вы здесь » Кружок любителей игр » Флудилка » Нейросети


Нейросети

Сообщений 141 страница 160 из 163

141

Jackjill написал(а):

В целом, прикольная штука. Все в песочницу играют, сам прогер создатель с этого грустит. Почему до сих пор никто такого же не сделал - хз. Локальные модели на хорошей видяшке работают норм.

Почему не сделал? Похожих штук много, но как правило, модели вертятся на серверах и там надо платить. (Например AI dungeon в стиме)
Тут суть в том, что - эти модели не умеют удивлять (очевидно), через какое-то время ты начнёшь видеть одни и те же паттерны и реакции и это надоест.
Это забавно поиграть в подобные игры с неделю, но дальше... Контент станет пресным и унылым.
Я уверен, в будущем появятся подобные игры, которые действительно будут работать хорошо, но там нужны будут другие модели, которые не смогут работать локально, и их нужно будет несколько, чтоб "стиль" изменялся, чтоб результат мог удивлять.

Ещё одна проблема в том, что - модели ограничены контекстом, и локальные модели не могут держать большой контекст, как следствие, они забывают предыдущие события и начинают генерировать не связанный бред.

На самом деле проблем там гораздо больше, но основа в том, что это иллюзия, что там всё так круто и безгранично, но ты это сам увидишь через какое-то время.

0

142

LostEternity написал(а):

Похожих штук много, но как правило, модели вертятся на серверах и там надо платить.

Нахер не надо, чтобы корпорации мои данные видели. Это всё равно что смотреть порно онлайн, параллельно транслируя как и чем ты дрочешь на вебку. Только локальные модели.

LostEternity написал(а):

через какое-то время ты начнёшь видеть одни и те же паттерны и реакции и это надоест

Пока не надоело, потом полезу разбираться как её дообучить.

LostEternity написал(а):

Ещё одна проблема в том, что - модели ограничены контекстом, и локальные модели не могут держать большой контекст, как следствие, они забывают предыдущие события и начинают генерировать не связанный бред.

Поэтому нужно что-то типа журнала, листа персонажа и ещё пара параметров, с которыми модель постоянно сверяется, как stat в QSP обрабатывается при каждом действии.

Вообще, идеал - это костяк пермаданных перса, которые модель смотрит плюс возможность её дообучения пользователем и локальность.

+1

143

LostEternity написал(а):

Тут суть в том, что - эти модели не умеют удивлять (очевидно), через какое-то время ты начнёшь видеть одни и те же паттерны и реакции и это надоест.

Суть в другом - трудно получить ту реакцию, какую хочешь без прямой инструкции - а это читерство и не вставляет)) А так паттернов и реакций много, я одну карточку несколько месяцев кручу, добавляю вводные и всё ещё удивляет. В большой модели много чего есть, а их не одна. Но правда чтобы крутить это всё локально много чего нужно. Хотя бы видеокарта от 3090 и оперативки от 128гб DDR5.

0

144

Vlad100 написал(а):

Суть в другом - трудно получить ту реакцию, какую хочешь без прямой инструкции - а это читерство и не вставляет))

На самом деле проблема глубже, LLM не имеет плана на сценарий, т.е. завязка -> развитие -> кульминация.
В обычных играх ты движешься в рамках прописанного сюжета, и, как правило, автор имеет представление о том, как сюжет должен развиваться, и какого результата сюжет должен достичь.
У LLMов нет такого понятия, есть лишь неуклюжая имитация.

Jackjill написал(а):

Поэтому нужно что-то типа журнала, листа персонажа и ещё пара параметров, с которыми модель постоянно сверяется, как stat в QSP обрабатывается при каждом действии.

Вообще, идеал - это костяк пермаданных перса, которые модель смотрит плюс возможность её дообучения пользователем и локальность.

Такое в принципе возможно, LLM может иметь кусок статичной информации, которая будет учитываться в генерации ответа, такое часто практикуется.
Но в идеале, нужно иметь сайд-LLM (или основной LLM должен этим заниматься), который будет суммировать "ключевые" моменты истории и добавлять её в отдельный блок, который так же должен учитываться при генерации.

Но по факту, там нужно иметь куда более сложную систему.

Vlad100 написал(а):

А так паттернов и реакций много, я одну карточку несколько месяцев кручу, добавляю вводные и всё ещё удивляет.

Ну тут многое зависит от человека, лично меня LLMы не способны удивлять, по итогу, всё сводится к неуклюжести и/или гипер-фокусировке на одних аспектах и полном игнорировании других, в частности окружающего "мира".

В целом - у меня не однозначное отношение к подобным "играм" с LLMами, по моему мнению - на данный момент они не вывозят, мб лет через 5 что-то изменится.
Потенциал у них есть, а вот сама технология сырая и дырявая.

0

145

LostEternity написал(а):

На самом деле проблема глубже, LLM не имеет плана на сценарий, т.е. завязка -> развитие -> кульминация.

Ну тут можно прописать в карточке самому, попросить ЛЛМ составить план, продумывать ветки плана прямо в скрытом ризонинге - перед каждым сообщением... Варианты есть так-то. Другое дело, что план от ЛЛМ как правило бедноват. Но я подозреваю, что если как следует заморочиться с карточкой персонажей, то и планы будут побогаче, поразнообразнее. Еще проблема в том, что ни модели, ни фронтенды под РПГ не заточены - так, мешанина данных и функций. В результате половину работы приходится выполнять пользователю. А хотелось бы движка уровня хотя бы РПГ Мейкера - не в смысле визуализации, а в смысле набора встроенных РПГ функций, завязанных на модель. Но не делает никто, все в кодинге конкурируют.

0

146

Lucefer написал(а):

Есть такая игра Multiic. Она построена на ИИ. Если у тебя видюха хорошая (4080 и тд) то у этой игра есть встроенный ИИ и можно играть без танцев с бубном. А если нет хорошей видюхи, то там есть какие то онлайн ИИ и там уже надо многое настраивать.

спасибо за название - поиграл в Малтик - идея хорошая но пока что все очень костыльно - например можно довести до секса в рамках разговора за ужином, но потом срабатывает триггер что вы разошлись по комнатам

в общем там каждая ллм сессия между экранами с чистого листа - и логика есть только между экранами/сценами но не внутри сцены

0

147

А там игр подобные Influencing не появлялось еще ? если конечно кто знает о такой игре ) песочница занятная такая с нейронкой но не для каждого из за графония )

0

148

Оказывается, можно из мультика просто запустить безцензурный Кобольд и там приключаться на любую тему. Просто перетащить файл нейронки на экзешник Кобальда. Пока не разобрался, нахрена тогда Таверна нужна, при том что ставится с жутким геморроем и в итоге мой Кобольд локальный так и не видит, а интерфейс такой же примитивный. Осталось разобраться как картинковую нейронку подружить с Кобольдом. Продолжаю разбираться.

0

149

Jackjill написал(а):

Оказывается, можно из мультика просто запустить безцензурный Кобольд и там приключаться на любую тему. Просто перетащить файл нейронки на экзешник Кобальда. Пока не разобрался, нахрена тогда Таверна нужна, при том что ставится с жутким геморроем и в итоге мой Кобольд локальный так и не видит, а интерфейс такой же примитивный. Осталось разобраться как картинковую нейронку подружить с Кобольдом. Продолжаю разбираться.

Таверна станет нужна как только разберешься с тем как запустить нейронку и насколько её настройки работы (называется умным словом инференс) влияют на результат.
Таверна позволяет быстро переключаться между ними, что удобно для теста + многим моделям нужны специальным образом оформленные тексты для адекватной работы, опятаки через кобольд довольно муторно все это реализовывать, хорошо подойдет только если уже со всем определился и настроил и сидишь с этим.
По поводу почему не видит — скорее всего что-то или блокирует или где-то не опубликован сетевой порт, даже на локальном интерфейсе (127.0.0.*) это может случиться

0

150

Remar написал(а):

Jackjill написал(а):

    Оказывается, можно из мультика просто запустить безцензурный Кобольд и там приключаться на любую тему. Просто перетащить файл нейронки на экзешник Кобальда. Пока не разобрался, нахрена тогда Таверна нужна, при том что ставится с жутким геморроем и в итоге мой Кобольд локальный так и не видит, а интерфейс такой же примитивный. Осталось разобраться как картинковую нейронку подружить с Кобольдом. Продолжаю разбираться.

В большинство своем приложения, которые дают запускать модельки, также позволяют с ними взаимодействовать. Т.е. не важно используется ollama, lmstudio или kobold - это все механизмы для запуска локальных моделей и в них встроена возможность взаимодействия с моделью, они же запускают локальный сервер, с которым уже по api взаимодействуют приложения вроде Таверны.
Но как не крути вышеперечисленные приложения сделаны для локальных ТЕКСТОВЫХ моделей.
Для картинок нужны другие модели и соответствующие системы, которые их запускают и позволяют с ними взаимодействовать. Например Forge, a11111, comfyui.
Тот же локальный малтик внутри содержит как кобольд для текста, так и отдельную графическую часть(сейчас нет под руками клиента малтика чтобы точно сказать что он использует)
Для картинок/видео есть мощная система(аналог "текстовой" lmstudio), которая помогает автоматически настроить окружение и запустить локальную модель - stability matrix

0

151

Jackjill написал(а):

Осталось разобраться как картинковую нейронку подружить с Кобольдом.

Подружить оказалось просто. После запуска экзешника Кобольда досовское окно не просто висит 10 секунд, а запускает лаунчер, где можно сетку для картинок выбрать локальную. Только картинки - говно. Где искать текстовые и картиночные локальные нейронки, разлоченные для порно - хз.

Почему до сих пор никто не собрал простой набор как в Малтике - экзешник плюс 2 нейронки с человеческими настройкам и подсказками - хз. До сих пор флэшбэки как Таверну ставил. Прям дос какой-то. Таверной до сих пор не пользовался, раз с наскока не получилось. Пока хватает Кобольда.

0

152

Jackjill написал(а):

Где искать <...> картиночные локальные нейронки

Выше по треду в прошлом году ещё писали ответ.
На пару постов ниже можешь увидеть мой коммент про примеры LLM для генерации изображений и текстов, но последние немного устарели. Текстовыми я уже другими пользуюсь, перешёл на 24B варианты.

Но я использую не чисто кобольд, а связку кобольд+таверна (+comfyUI, если нужны ещё изображения), проблем с базовыми настройками не было совсем, с более тонкими пришлось повозиться, но есть гайды, и есть возможность попытать тот же чатжпт в режиме размышления.

0

153

zobak написал(а):

Текстовыми я уже другими пользуюсь, перешёл на 24B варианты.

Какая есть хорошая для русского ролеплея 18+? На английском норм бегают saiga_nemo_12b.Q4_K_M которая с Multiic идёт в комплекте и Дипсик Mars_27B_V.1.Q4_K_M посоветовал. Именно на русском они звёзд с неба не хватают и особой разницы между ними не заметил. Разве что Mars интереснее для фентези ролеплея.

0

154

Jackjill написал(а):

zobak написал(а):

    Текстовыми я уже другими пользуюсь, перешёл на 24B варианты.

Какая есть хорошая для русского ролеплея 18+? На английском норм бегают saiga_nemo_12b.Q4_K_M которая с Multiic идёт в комплекте и Дипсик Mars_27B_V.1.Q4_K_M посоветовал. Именно на русском они звёзд с неба не хватают и особой разницы между ними не заметил. Разве что Mars интереснее для фентези ролеплея.

какая у тебя видяха? видео и обычной памяти

0

155

Jackjill написал(а):

Какая есть хорошая для русского ролеплея 18+?

https://huggingface.co/mradermacher/Omn … N-12B-GGUF

0

156

nomiren472 написал(а):

какая у тебя видяха? видео и обычной памяти

32 GB RAM, 5070ti 16GB.

Vlad100 написал(а):

https://huggingface.co/mradermacher/Omn … N-12B-GGUF

"Соси мою пизду, как последний шлюх" - нет, спасибо. В смысле, такой русский ролеплей нам не нужен. Пока сетка хуже всех которые пробовал.

0

157

Jackjill написал(а):

"Соси мою пизду, как последний шлюх" - нет, спасибо. В смысле, такой русский ролеплей нам не нужен. Пока сетка хуже всех которые пробовал.

очень многое зависит от настроек инференса. Можно спросить более умную нейросетку типа Грока или Клода о том как настроить нужную тебе модель.

0

158

Короче, после 70В по совету нейросетки выдавшей полный бред на русском, понял что проблема пока что в самом русском. На английском РПшить намного проще. Пока остановился на Cydonia-24B-v4.3-absolute-heresy.Q4_K_M
Вроде, богата земля русская талантами, а норм сетку натренировать не могут. Плюс просто километр настроек Кобольда вызывает флешбеки времён выбора звуковой карты в играх 90-х.

0

159

Jackjill написал(а):

В смысле, такой русский ролеплей нам не нужен.

Можно конечно было бы посоветовать ставить уже Таверну и начинать интересоваться такими вещами как пресеты и сэмплеры, но не нужен - значит не нужен.

Цидония кстати на русском ничего ещё. На английском лучше конечно.

0

160

Jackjill написал(а):

Вроде, богата земля русская талантами, а норм сетку натренировать не могут.

Gemini заявляет, что "The share of Russian-language papers in international scientific databases, particularly Web of Science, has held steady at approximately 2% in hard sciences from 2008–2023."

https://share.google/aimode/1sL8BKfZDABPTAcMK

0


Вы здесь » Кружок любителей игр » Флудилка » Нейросети