Все что влезает в 16 Гб должно хорошо работать, из русскоязычного пока ничего лучше Nemo не встречал. Даже Mistral Small который на 24B пожалуй иногда хуже отрабатывает.
Стоит пробовать разные сетки на основе дообученного Nemo например, LatitudeGames/Muse-12B
Но под нее нужно писать тексты немного иначе, там есть примеры в ридми.

Я пришел к выводу что приходится менять настройки прямо по ходу, когда начинается подобная ерунда я просто скармливаю свои настройки чатуГПТ и прошу его совета, так потихоньку получается разобраться в нужных настройках для конкретной модели.

Мои опыты показали что хорошие результаты дают только довольно сложные вокрфлоу когда одна картинка прогоняется несколько раз, иногда через одну и туже модель, иногда через разные. Все это отнимает кучу времени и на моем железе несмотря на большой объем памяти я просто забил этим заниматься. Так как или картинки не очень, но зато секунд за 40–70, или на каждую картинку уходит минут 8.

Отвечу сам себе, ибо где-то недели полторы после своего сообщения экспериментировал.

1) Ни одна сетка для текстовых ERP пока особо не понравилась из тестируемых, кроме mn-12b-mag-mell, но она на основе Mistral, так что ничего принципиально нового. Неплохие Rose-20B и Fimbulvetr-11B, но нравятся меньше гораздо.
2) Долго мучил настройки, а потом попробовал не koboldcpp_cu12, а croco.cpp_fks_cuda_12.9_Pascal_Turing_and_beyond. С дополнительными настройками скорость увеличилась в разы, я даже стримминг ответов отключил, нет смысла, не успеваю читать.
3) Долго игрался и вроде бы подобрал парочку адекватных сеток (ponyDiffusionV6XL или autismmixSDXL_autismmixPony, дают почти одно одинаковые результаты, и ещё неплоха cognitiveriver_ponyV20) и научился собирать нормальные промты. После этого смог собрать инструкцию для генерации в таверне и стал получать адекватные результаты.

Да, долго там копался, собирал сетки и LORA, забавный процесс.

Не помню, вроде не пробовал, возьму на заметку, спасибо.

Да, надо долго балансить.

Угу, только опытным путём.

Пока наигрался в целом, но точно ещё вернуть. Местами шикарные совершенно ERP выходят, как и по своим персонажам/приключениям, так и по всяким прикольным с chub.ai.

Если устраивает околоанимешная стилистка то модели на основе Illustrion дают хорошие результаты в плане понимании промта и проработки деталей, часть LoRA от Пони и SDXL к ней тоже подходит.

Основная проблема Пони это сильная зависимость от "Стилей" то есть тех LoRA что добавляют определенный стиль к картинкам, еще можно найти в интеренете огромный файл по Пони где они разбирают стили авторов, в этом случае можно получать довольно неплохие, хоть и однообразные картинки в стиле определенного художника.