IA I migliori siti/app di Chat AI

  • Autore discussione Autore discussione JoaoPeg
  • Data d'inizio Data d'inizio
SillyTavern, come hanno già detto altri in questo thread. Front end open source da abbinare all'LLM che preferisci. Può costare poco o tanto (o niente), con qualità o tempi di risposta che cambiano in base a quanto vuoi spendere. Puoi scaricare e importare character card da vari siti. Essendo open source, però, serve risolvere i problemi e capire i processi per farlo partire, ma costa meno di qualsiasi di quei siti e puoi scalarlo e personalizzarlo fin dove vuoi. Non è nemmeno l'unico front end utilizzabile, ma è uno dei più popolari.
 
Non ho l'hardware per far girare niente in locale, uso questi servizi sul tablet, quindi dovrebbe essere leggero come un sito tipo kindroid. Voglio anche qualcosa il più semplice possibile, visto che lo faccio per divertimento ogni tanto, non come lavoro e nemmeno come hobby
 
Le chat sono molto buone, anche la personalizzazione è una bella funzione.
Hanno delle battute vocali piuttosto buone.
Ma la generazione di immagini se ne frega completamente dell'immagine del titolo del personaggio. Le immagini generate sembrano totalmente diverse, il che purtroppo è un grosso punto negativo
 
SillyTavern supporta anche la generazione di immagini NSFW? :peepoSad:

Io uso anche Kindroid (dopo che Darlink è andato a puttane) ma gli manca qualcosa che non riesco a spiegare bene. Kindroid richiede un po' di ritocchi per funzionare bene, e anche così l'esperienza può essere frustrante, quindi cerco anche un'alternativa. Non mi dispiace pagare finché ne vale la pena.
 
Può farlo, ma è solo un servizio front end che gira sul tuo computer. Si può far girare anche su android, ho visto gente dire che lo usa sul telefono per corinthianultra. La generazione di immagini deve essere collegata a un servizio back end o a un'API. Non ho mai smanettato con la generazione di immagini lì perché costa parecchio rispetto al chat completion e devi regolare impostazioni e prompt per avvicinarti all'immagine che vuoi. Sono sicuro che ci sono guide. Configurare SillyTavern richiede parecchio impegno/ricerca da parte dell'utente, ma se sei un minimo tecnico, sai seguire le guide e googlare/chiedere a un'AI, te la caverai.

Ho provato i servizi di chat dei siti solo con le prove gratuite, ma fanno pagare tutti un abbonamento, a volte abbonamenti sopra quello base, e pagamento a consumo per i servizi extra, e dopo aver visto i limiti di chat/immagini/video (non immagini davvero nuove, ma solo prese da una libreria di immagini già renderizzate abbastanza vicine al tuo prompt, per esempio) ho detto no, grazie. Ho speso meno di 20 USD in due anni di utilizzo. SillyTavern in sé è gratis, dipende solo da quanto costa per token il servizio API che vuoi usare. Dai un'occhiata al reddit di SillyTavern o alle guide su youtube per vedere se fa per te.

Non posso linkarlo qui, ma googla perchance text to image generation. Gratis e permette NSFW, per smanettare un po'. Non si può usare come API per SillyTavern però.
 
Cioè, puoi usare koboldcpp come launcher di modelli al posto di ollama, ha già la generazione di immagini e audio integrata. Puoi anche far girare A1111 o comfy ui e collegare i tuoi server locali a silly tavern. Funziona, ma non è come quelli online con accesso ai datacenter, sei limitato dalla velocità della VRAM della tua GPU. MA È GRATIS e gira in locale, quindi è più privato/sicuro. In più, collegando comfy ui puoi aggiungere al workflow Lora fatte in casa o checkpoint fatti in casa, molto più sbbattimento ma molto più personalizzabile e gratis (se hai la potenza per far girare tutto).
 
Io ho iniziato con erogen.ai, ed è ancora decente, ma mi sembra che col tempo abbiano limitato parecchio i contenuti e messo dietro paywall un sacco delle loro funzioni migliori.
 
I modelli locali sono l'ideale, ma non ci sono ancora per quanto riguarda il rapporto qualità/prezzo, soprattutto con i prezzi delle GPU fuori di testa e le 5090 che ormai vanno a più del triplo del prezzo di listino. Per non parlare del fatto che ancora nessuno ha trovato una soluzione ai connettori di alimentazione delle 5090 che si sciolgono. Anch'io vorrei andare in locale, ma aspetto che i modelli migliorino, che i prezzi delle GPU calino, o che esca la serie 6000 con più VRAM su tutta la gamma a un prezzo ragionevole (lol), e tutto questo richiederà parecchio tempo. Per prezzo e qualità della chat, quello che ottengo con openrouter o nanogpt è molto più conveniente. Però se il gaming su PC è anche un hobby, la GPU di lusso può servire per entrambi. Ma sì, se la privacy è la preoccupazione principale, il locale è la strada.
 
Non riesco a immaginare di costruire un PC per questo adesso, io sono stato fortunato e ho fatto una build nuova nel 2022-2023, 4070 ti super 16gb per circa £700, m.2 a £30-50. Credo di aver speso £1.220 in totale; se provassi la stessa build ora, guardando la mia build su pc part picker dice £3350.

Facevo girare ancora qualche LLM più piccolo e persino generazione di immagini sulla mia vecchia gtx 1080 da 8gb. Preferisco mettere da parte quei soldi e risparmiare per componenti migliori piuttosto che usarli per pagare l'IA, ma sono solo io. Quasi tutto quello con cui volevo giocare e che volevo fare l'ho già fatto, quindi non ho mai pensato di pagare. Ho fatto inpainting su foto, addestrato un modello su una persona e creato un modello di immagini che genera solo immagini di quella persona, clonato la voce, fatto text to speech, poi image to video e text to video, poi aggiunto la voce clonata alla generazione video, poi fatto un modello di chat con tts usando la voce clonata e collegato la generazione di immagini, così poteva generarmi anche immagini.

Inoltre sto creando personaggi e schede di lore del mondo in silly tavern, aiuta tantissimo a guidare le cose, non penso serva un modello super complesso, solo una buona costruzione dei personaggi.
 
Per chi vuole generare erotica, chatbot, joi ecc... spicywriter ha Muse Spark 1.3 nel piano gratuito in questo momento.

L'unico svantaggio è che potrebbe usare i tuoi input per l'addestramento dell'IA di Meta.

Come modello avanzato è piuttosto capace, ma richiede più struttura nei prompt rispetto a Sonnet/Opus di Claude. Tende anche a prendere le istruzioni più alla lettera degli altri modelli.
 
Sì, dalle GPU con 8GB di VRAM si può ancora ricavare parecchio. Da quello che ho capito, per rivaleggiare con GLM 5.3 o Kimi K3 (che considero di alta qualità, ma ancora economici) mi servirebbero 128 GB di VRAM in totale per un modello locale equivalente di ollama. E anche così ci sarebbe una differenza evidente in sfumature, memoria a lungo termine e gestione di più personaggi. La mia scheda attuale riesce a far girare qualche modello, ma non credo che riuscirei a usarne uno che mi piaccia dopo essermi viziato con Opus, Sonnet, GLM e Kimi. Pensavo di passare alla 5090 per smanettare con i modelli locali e anche per giocare, ma non a questi prezzi. Spero che i modelli locali migliorino e che i prezzi delle GPU scendano, ma so che ci vorrà un po'. Per fortuna ho qualche opzione di API routing a buon prezzo per tirare avanti.
 
La curiosità ha vinto, quindi ho provato l'abbonamento Ultra di FictionLab (25 cazzo di dollari al mese. Prima usavo Plus a 9 $ da quasi un anno).

Per chi può permetterselo ed è interessato soprattutto alla generazione di testo per roleplay, consiglio senza dubbio Arcanum su GLM 5.2: manda a puttane le mie fantasie da quanto è bello. Ogni tanto si rifiuta di generare roba incestuosa, quindi bisogna rigenerare un paio di volte, un po' fastidioso. Ma in generale è una roba fottutamente pazzesca quanto sia creativo e divertente.

In questo senso, Paragon su DeepSeek v4 pro è molto più permissivo sugli argomenti e lascia fare praticamente tutto, anche temi molto dark. Quindi è ottimo se ti stufi di Arcanum o vuoi roba dark. Lo svantaggio è che è meno creativo e a volte ci mette 30–40 secondi a rispondere. Arcanum, al confronto, ne impiega circa 2–3.

Ma non credo che terrò Ultra per un altro mese, è troppo caro per pagarlo regolarmente solo per gooning, nonostante Arcanum sia fantastico. E il bello è che credo non vorrò tornare nemmeno a Plus, ora che ho visto quanto può essere bravo il modello Arcanum rispetto ai modelli inferiori di Plus.
 
Non sono sicuro che questo sia il posto migliore per chiederlo, quindi rimandatemi altrove se c'è un thread più adatto.
Qualcuno ha dei buoni prompt per minimax h3 max turbo su Venice? Sia per facial che semplicemente buoni prompt in generale.
 
https:// vixal. to/i2v/7470095904
Fa un bel effetto, è molto buono
 
Esiste un buon chatbot dove posso caricare un'immagine di riferimento, fare chat NSFW e generare foto nella stessa interfaccia? TBIO va bene, ma servono due chat diverse aperte contemporaneamente e dopo aver caricato un'immagine non si può tornare a un modello testuale.
 
In locale o online? Online nasconde tutto nel back end, collegando servizi e server tra loro; in locale di solito devi far girare tutto da solo.

La generazione di immagini è un discorso a parte: puoi avere chatbot che "vedono le immagini" facendo girare comfy ui o A1111 in background e collegandolo a ollama, koboldcpp o direttamente tramite open webui. L'ho già fatto: ho avviato il server A1111 o comfy ui e poi ho solo aggiunto l'indirizzo a open webui. Avevo già ollama che ospitava i modelli dei chatbot, quindi tecnicamente avevo 4 server attivi: ollama per ospitare i modelli, A1111 per le immagini, un server TTS per la voce e open webui come interfaccia per metterli tutti insieme in un posto solo. Ho fatto un file BAT che, quando lo lanciavo, apriva e avviava tutto, compreso firefox e l'indirizzo di open webui, quindi bastava lanciare il BAT, scegliere un modello e iniziare a parlare, ci voleva circa 1 min.

Il passo successivo, quello che sto guardando adesso, è avere un agente che gira in locale sul PC e che faccia praticamente tutto quello che ho detto, ma sperabilmente più facile da espandere e personalizzare. (per ora guarda KoboldCPP, può far girare la sua generazione e modifica di immagini senza dover usare A1111 o comfyui, ha funzioni di agente integrate dove puoi chattare, trascinare immagini e chiedergli di modificarle / generarle per te)
 
Devi accedere o registrarti per rispondere qui.
Indietro
Top