Форум игр +18

Кружок любителей игр

Объявление

Информация о пользователе

Привет, Гость! Войдите или зарегистрируйтесь.

Вы здесь » Кружок любителей игр » Флудилка » Нейросети

Нейросети

Страница:   1 2 3 4

Сообщений 61 страница 72 из 72

61

  • Автор: nomiren472
  • 7 категория
  • nomiren472
  • Зарегистрирован: 2023-10-09
  • Приглашений: 0
  • Сообщений: 42
  • Уважение: +5
  • Позитив: +1
  • Провел на форуме:
    12 часов 22 минуты
  • Последний визит:
    2024-04-28 06:52:41

поставил себе винду 10 поигрался с ней в общем пришел к выводу что lowvram параметр использовать совсем нельзя
надо без него и надо смотреть подбирать число слоев на видяхе и вне ее
когда удачное число слоев что на нагрузке цпу и гпу получается такая расческа из нагрузки и хорошо молотит
при этом если дать буквально на 1-2 слоя больше сильно проваливается скорость внизразница может быть увроня 8-9 токенов против 2-3 токена в секунду!
проверяйте и подбирайте под себя число слоев

две новые умные модели из топов
https://huggingface.co/models?search=Starling-LM-7B-beta gguf - эта в топе
https://huggingface.co/mradermacher/Mis … ences=true - это совсем свежий микс на базе предыдущей пока не в топе

0

62

  • Автор: Slilo
  • 6 категория
  • Зарегистрирован: 2018-08-28
  • Приглашений: 0
  • Сообщений: 90
  • Уважение: +8
  • Позитив: +44
  • Провел на форуме:
    1 день 9 часов
  • Последний визит:
    Вчера 14:42:39

Вот подвезли первую игру с нейронкой внутри (по сути тот же чат, но для тех кто не осилил сам поднять кобольда):
https://f95zone.to/threads/gaisha-alpha … ha.202203/

0

63

  • Автор: Vlad100
  • 5 категория
  • Vlad100
  • Зарегистрирован: 2017-11-04
  • Приглашений: 0
  • Сообщений: 133
  • Уважение: +34
  • Позитив: +2
  • Провел на форуме:
    3 дня 22 часа
  • Последний визит:
    Вчера 20:50:12
nomiren472 написал(а):

поставил себе винду 10 поигрался с ней в общем пришел к выводу что lowvram параметр использовать совсем нельзя

Это совершенно не так. В общем случае режим "normal" (по умолчанию, если lowvram не ставишь) нужно использовать только в том случае, если модель полностью влазит в видеопамять. Там есть нюансы, типа если совсем немного не хватает, то можно - но в целом lowvram это совершенно другой режим, заточенный под совместную работу процессора и ГПУ. Процессор только нужен нормальный. Вот 12400 - это нормальный :)

0

64

  • Автор: Vlad100
  • 5 категория
  • Vlad100
  • Зарегистрирован: 2017-11-04
  • Приглашений: 0
  • Сообщений: 133
  • Уважение: +34
  • Позитив: +2
  • Провел на форуме:
    3 дня 22 часа
  • Последний визит:
    Вчера 20:50:12

Я кстати интересную карточку нашёл:
https://chub.ai/characters/SpringyTwist/text-adventure

Попробуйте её с какой-нибудь хорошей RP-шной моделью.

Кстати Silly Tavern с того времени, когда я её раньше использовал, очень сильно продвинулась вперёд. Там даже есть теперь переводчик в обе стороны - то есть ты пишешь модели на русском, она получает запрос на английском, отвечает тебе на английском - а ты получаешь ответ на русском :) Не без косяков, но играть можно. Разобраться бы ещё в огромном количестве функций этой таверны...

0

65

  • Автор: nomiren472
  • 7 категория
  • nomiren472
  • Зарегистрирован: 2023-10-09
  • Приглашений: 0
  • Сообщений: 42
  • Уважение: +5
  • Позитив: +1
  • Провел на форуме:
    12 часов 22 минуты
  • Последний визит:
    2024-04-28 06:52:41
Vlad100 написал(а):

nomiren472 написал(а):

    поставил себе винду 10 поигрался с ней в общем пришел к выводу что lowvram параметр использовать совсем нельзя

Это совершенно не так. В общем случае режим "normal" (по умолчанию, если lowvram не ставишь) нужно использовать только в том случае, если модель полностью влазит в видеопамять. Там есть нюансы, типа если совсем немного не хватает, то можно - но в целом lowvram это совершенно другой режим, заточенный под совместную работу процессора и ГПУ. Процессор только нужен нормальный. Вот 12400 - это нормальный :)

у меня с ним скорость всегда низкая! разница 2-3х
а без него на пару слоев меньше влезет но зато гораздо быстрее
надо смотреть и подбирать под себя(под железо и ось)
на одном и том же железе на 11 и на 10 винде разное число слоев влазит и скорость разная

0

66

  • Автор: nomiren472
  • 7 категория
  • nomiren472
  • Зарегистрирован: 2023-10-09
  • Приглашений: 0
  • Сообщений: 42
  • Уважение: +5
  • Позитив: +1
  • Провел на форуме:
    12 часов 22 минуты
  • Последний визит:
    2024-04-28 06:52:41

Две топ модели на сегодня 35Б параметров
Command-R (не + а обычная версия) и Qwen

Если кто знает топ модели на 20Б+ параметров пишите - кроме luxia ни одной не знаю

0

67

  • Автор: DX2
  • 7 категория
  • DX2
  • Зарегистрирован: 2021-02-01
  • Приглашений: 0
  • Сообщений: 25
  • Уважение: +2
  • Позитив: +6
  • Провел на форуме:
    9 часов 40 минут
  • Последний визит:
    Вчера 13:30:10

Ребята, подскажите, есть ли нейросетка превращающая рисунок в фото (фотореалистичный рисунок)? Мультяшную сцену в реальную.

0

68

  • Автор: jm
  • Нубус
  • Зарегистрирован: 2024-01-16
  • Приглашений: 0
  • Сообщений: 2
  • Уважение: 0
  • Позитив: 0
  • Провел на форуме:
    16 часов 43 минуты
  • Последний визит:
    2024-05-12 15:51:16
nomiren472 написал(а):

Две топ модели на сегодня 35Б параметров
Command-R (не + а обычная версия) и Qwen

Если кто знает топ модели на 20Б+ параметров пишите - кроме luxia ни одной не знаю

Попробуйте Lewd-Sydney-20B. Меня она приятно удивила после InfinityRP-v1-7B. Насчет "топ" не уверен конечно.

0

69

  • Автор: Vlad100
  • 5 категория
  • Vlad100
  • Зарегистрирован: 2017-11-04
  • Приглашений: 0
  • Сообщений: 133
  • Уважение: +34
  • Позитив: +2
  • Провел на форуме:
    3 дня 22 часа
  • Последний визит:
    Вчера 20:50:12

Вышел WizardLM-2. Пощупать 7B можно здесь:
https://huggingface.co/bartowski/WizardLM-2-7B-GGUF

Модель нового поколения, пока без тюнинга и с цензурой, но любопытно.

0

70

  • Автор: Slilo
  • 6 категория
  • Зарегистрирован: 2018-08-28
  • Приглашений: 0
  • Сообщений: 90
  • Уважение: +8
  • Позитив: +44
  • Провел на форуме:
    1 день 9 часов
  • Последний визит:
    Вчера 14:42:39

DX2
да в целом любая современная по обработке изображений. Дальше "всего лишь" нужно разобраться как подключить к ней LoRa и другие плагины чтобы загрузить базу, а затем выдать правильный ПРОМТ. Какая именно лучше всего подойдет я не знаю. У меня слишом слабое железо чтобы играться с такими штуками, а онлайн графика чет дорого стоит :-)

0

71

  • Автор: Vlad100
  • 5 категория
  • Vlad100
  • Зарегистрирован: 2017-11-04
  • Приглашений: 0
  • Сообщений: 133
  • Уважение: +34
  • Позитив: +2
  • Провел на форуме:
    3 дня 22 часа
  • Последний визит:
    Вчера 20:50:12

Третья Ллама вышла. Может в русский. Пока 8B доступна в Угабуге, но скоро добавят и в лламаспп и соответственно в Кобольд. А там и версия 70В подоспеет - очень ждём :) В смысле её уже выложили, но там работы больше.

0

72

  • Автор: jm
  • Нубус
  • Зарегистрирован: 2024-01-16
  • Приглашений: 0
  • Сообщений: 2
  • Уважение: 0
  • Позитив: 0
  • Провел на форуме:
    16 часов 43 минуты
  • Последний визит:
    2024-05-12 15:51:16
Vlad100 написал(а):

Третья Ллама вышла. Может в русский. Пока 8B доступна в Угабуге, но скоро добавят и в лламаспп и соответственно в Кобольд. А там и версия 70В подоспеет - очень ждём :) В смысле её уже выложили, но там работы больше.

Poppy_Porpoise-v0.2-L3-8B-GGUF-IQ-Imatrix
Рабочий вариант.

Aura_Uncensored_l3_8B-GGUF-IQ-Imatrix

Отредактировано jm (2024-04-21 08:14:40)

0

Страница:   1 2 3 4

Вы здесь » Кружок любителей игр » Флудилка » Нейросети