Форум игр +18

Кружок любителей игр

Объявление

Информация о пользователе

Привет, Гость! Войдите или зарегистрируйтесь.


Вы здесь » Кружок любителей игр » Флудилка » Нейросети


Нейросети

Сообщений 121 страница 127 из 127

121

zobak написал(а):

1) С какими нейросетками можно поиграться на конфиге i7-12700 - RTX 5070 Ti 16GB - 128GB RAM? Пока больше всего зашла Mistral-Nemo-Instruct-2407-abliterated, но немного утомила повторами.

2) Подскажите настройки кобольда под такую систему. Не могу баланс найти пока, кажется, что можно больше скорости выжать.

3) Ну и хотелось бы с генерацией изображений разобраться, пытаюсь юзать ComfyUI с разными нейронками, но результаты такие себе. Может нужно настроить генерацию промта в таверне, может сочетание сеток подобрать, не знаю.

Регаешься на сайте https://civitai.com, там воз и маленькая тележка моделей на любой вкус с еще большей кучей примеров промтов, если нужны 18+ нужно зайти в настройки и включить чтоб они отображались, можешь у дипсика спросить как, он расскажет.

вообще дипсик в конфи шарит, даже ошибки подскажет, если такие будут, рекомендую, а вот схемы он делает крайне фигово, во всяком случае использует ноды устаревшие или не существующие, но блок-схемы без проблем.

Отредактировано 1_leto (2025-06-09 19:04:41)

0

122

zobak написал(а):

1) С какими нейросетками можно поиграться на конфиге i7-12700 - RTX 5070 Ti 16GB - 128GB RAM? Пока больше всего зашла Mistral-Nemo-Instruct-2407-abliterated, но немного утомила повторами.

Все что влезает в 16 Гб должно хорошо работать, из русскоязычного пока ничего лучше Nemo не встречал. Даже Mistral Small который на 24B пожалуй иногда хуже отрабатывает.
Стоит пробовать разные сетки на основе дообученного Nemo например, LatitudeGames/Muse-12B
Но под нее нужно писать тексты немного иначе, там есть примеры в ридми.

zobak написал(а):

2) Подскажите настройки кобольда под такую систему. Не могу баланс найти пока, кажется, что можно больше скорости выжать.

Я пришел к выводу что приходится менять настройки прямо по ходу, когда начинается подобная ерунда я просто скармливаю свои настройки чатуГПТ и прошу его совета, так потихоньку получается разобраться в нужных настройках для конкретной модели.

zobak написал(а):

3) Ну и хотелось бы с генерацией изображений разобраться, пытаюсь юзать ComfyUI с разными нейронками, но результаты такие себе. Может нужно настроить генерацию промта в таверне, может сочетание сеток подобрать, не знаю.

Мои опыты показали что хорошие результаты дают только довольно сложные вокрфлоу когда одна картинка прогоняется несколько раз, иногда через одну и туже модель, иногда через разные. Все это отнимает кучу времени и на моем железе несмотря на большой объем памяти я просто забил этим заниматься. Так как или картинки не очень, но зато секунд за 40–70, или на каждую картинку уходит минут 8.

0

123

zobak написал(а):

2) Подскажите настройки кобольда под такую систему. Не могу баланс найти пока, кажется, что можно больше скорости выжать.

запускаешь смотришь чтоб не свопило(видеопамяти хватало) - если есть еще память берешь сетку побольше или квантизацию повыше
если нет то берешь хуже квантизацию / меньше контекст / сжатие KV
на nvidia врубай flashattention

0

124

Отвечу сам себе, ибо где-то недели полторы после своего сообщения экспериментировал.

1) Ни одна сетка для текстовых ERP пока особо не понравилась из тестируемых, кроме mn-12b-mag-mell, но она на основе Mistral, так что ничего принципиально нового. Неплохие Rose-20B и Fimbulvetr-11B, но нравятся меньше гораздо.
2) Долго мучил настройки, а потом попробовал не koboldcpp_cu12, а croco.cpp_fks_cuda_12.9_Pascal_Turing_and_beyond. С дополнительными настройками скорость увеличилась в разы, я даже стримминг ответов отключил, нет смысла, не успеваю читать.
3) Долго игрался и вроде бы подобрал парочку адекватных сеток (ponyDiffusionV6XL или autismmixSDXL_autismmixPony, дают почти одно одинаковые результаты, и ещё неплоха cognitiveriver_ponyV20) и научился собирать нормальные промты. После этого смог собрать инструкцию для генерации в таверне и стал получать адекватные результаты.

1_leto написал(а):

Регаешься на сайте https://civitai.com, там воз и маленькая тележка моделей на любой вкус

Да, долго там копался, собирал сетки и LORA, забавный процесс.

Slilo написал(а):

Стоит пробовать разные сетки на основе дообученного Nemo например, LatitudeGames/Muse-12B

Не помню, вроде не пробовал, возьму на заметку, спасибо.

Slilo написал(а):

Я пришел к выводу что приходится менять настройки прямо по ходу, когда начинается подобная ерунда я просто скармливаю свои настройки чатуГПТ и прошу его совета, так потихоньку получается разобраться в нужных настройках для конкретной модели.

Да, надо долго балансить.

nomiren472 написал(а):

берешь сетку побольше или квантизацию повыше
если нет то берешь хуже квантизацию / меньше контекст / сжатие KV

Угу, только опытным путём.

Пока наигрался в целом, но точно ещё вернуть. Местами шикарные совершенно ERP выходят, как и по своим персонажам/приключениям, так и по всяким прикольным с chub.ai.

0

125

zobak написал(а):

а потом попробовал не koboldcpp_cu12, а croco.cpp_fks_cuda_12.9_Pascal_Turing_and_beyond. С дополнительными настройками скорость увеличилась в разы, я даже стримминг ответов отключил, нет смысла, не успеваю читать.

я его упоминал тут выше =)

0

126

zobak написал(а):

Долго игрался и вроде бы подобрал парочку адекватных сеток (ponyDiffusionV6XL или autismmixSDXL_autismmixPony, дают почти одно одинаковые результаты, и ещё неплоха cognitiveriver_ponyV20) и научился собирать нормальные промты. После этого смог собрать инструкцию для генерации в таверне и стал получать адекватные результаты.

Если устраивает околоанимешная стилистка то модели на основе Illustrion дают хорошие результаты в плане понимании промта и проработки деталей, часть LoRA от Пони и SDXL к ней тоже подходит.

Основная проблема Пони это сильная зависимость от "Стилей" то есть тех LoRA что добавляют определенный стиль к картинкам, еще можно найти в интеренете огромный файл по Пони где они разбирают стили авторов, в этом случае можно получать довольно неплохие, хоть и однообразные картинки в стиле определенного художника.

0

127

День добрый! Есть проблема с stable diffusion webui. Почему то со временем он начинает ну ооочень плохо и не качественно генерировать. Может кто знает в чём проблема? Мой комп: Rtx 4060 Ti 8gb, Ryzen 5 5600, 32gb RAM DDR 4 3600.

0


Вы здесь » Кружок любителей игр » Флудилка » Нейросети