IA I migliori siti/app di Chat AI

  • Autore discussione Autore discussione JoaoPeg
  • Data d'inizio Data d'inizio
Questa è la strada. Ho alcuni modelli che girano su ollama, ho llama3, dolphin, ma quello che ho trovato funzionare per roba NSFW è rocinante-q8. Creare nuovi modelli significa solo fare un nuovo file di modello e dargli impostazioni e personalità.
Ho fatto funzionare anche il TTS, così parla dopo aver risposto, tutto in locale e offline. Uso coqui TTS (credo, non ricordo).
Ho fatto funzionare anche la generazione di immagini. Parlo con il chatbot e gli dico solo di mostrarmi qualcosa in un'immagine e ne genera una e la posta nella chat. MA usa la generazione di immagini grezza, senza modifiche alle impostazioni né prompt negativi, quindi non è per niente buona rispetto alla vera generazione di immagini che puoi fare da solo.
 
Ci ho provato ma con le cose di IA sono proprio negato. Ho scaricato ollama, ho preso un po' di modelli abliterated/NSFW/"uncensored" ma non sono riuscito a farli funzionare bene, per niente. Ovviamente è perché non sapevo e tuttora non so davvero che cazzo sto facendo, ma è un bel po' che voglio un modo per fare chat di sesso NSFW senza censure e illimitate in locale.
Per ora uso solo juicychat e crushon, che per quel che so sono le migliori opzioni gratis. Anche Janitor, ma credo un po' meno. Mi piacerebbe un sacco avere un modo o un programma per avere uno o più chatbot identici a quelli NSFW/senza censure dei 3 siti che ho appena citato, ma che girano in locale sul mio PC (è un PC decente, i7 di recente generazione, GPU nvidia 4060, 32 giga di RAM). Anche solo la parte chat sarebbe fantastica, ma se riuscissi a fare anche le immagini sarei in paradiso.
Ho cercato varie guide ovviamente, ma dopo qualche ora, più volte, non sono riuscito a capirci fino in fondo. Qualcuno dovrebbe scrivere uno di quei libri "Per Negati" proprio su questa cosa, haha.
EDIT: dimenticavo, ho pinokio installato, ma lo uso solo per Facefusion per il face swap. Se c'è un modo per fare quello che ho scritto sopra tramite pinokio mi piacerebbe saperlo
 
Io ho fatto tutto leggendo vecchi post, ora cancellati, qui su come installare roba di IA. Ho iniziato con A1111 per generare immagini, poi ho voluto provare i chatbot perché tutti gli altri stavano diventando a pagamento. Sono andato su chat gpt e in pratica ho detto "spiegamelo come se avessi 5 anni", ma io programmo un pochino e persino io ho notato che quello che mi diceva di fare era sbagliato, quindi un sacco di tentativi ed errori. Sono riuscito a far funzionare ollama con docker desktop, ma il modo di installare le cose era usare i container di docker per installare il chatbot ogni volta che lo avviavi, ci metteva una vita e non era per niente facile modificare i chatbot.
Ho deciso di disinstallare tutto e ripartire da zero usando solo ollama e un server locale, facendomi scrivere un po' di codice da claude e guidare nell'installazione. Per tutto il casino e il tempo che avevo speso nell'altro modo, ho imparato parecchio, sapevo cosa sembrava sbagliato, conoscevo le posizioni e le azioni necessarie per avviare le cose, è stato molto più veloce, semplice e facile.
Poi sono andato su chatgpt e gli ho chiesto quali fossero le opzioni migliori per "modelli di chatbot di roleplay NSFW per dnd che si possano personalizzare, con nomi, personalità, modi di parlare e come aggirare gli eventuali filtri". Alla fine ho installato rocinante-q8, ho fatto scrivere a chat gpt un template base di chatbot e gli ho chiesto come installarlo e farlo girare. Un po' di tentativi ed errori ma ha funzionato. Ora devo solo modificare un file del blocco note, cambiare quello che voglio, poi andare al prompt CMD e installarlo con " ollama create lucy -f modelfile.lucy " (lucy è solo un nome a caso ma hai capito l'idea).
Sinceramente, se usi IA tipo chatgpt e claude, ti spiegano le cose che non capisci se glielo chiedi. A volte, chiedendogli di spiegarti del codice, trovi errori o sbagli (ti fa risparmiare ore a copiare e incollare errori per chiedergli di sistemare il codice e mandargli gli errori) If you want to see what the template looks like
 
Io ho fatto così:
Guida per far girare il tuo chatbot in locale
Testato con:
Windows 10
Il mio server NAS - Nvidia 3080 10GB VRAM // 32 GB ram
Il mio PC - Nvidia 5080 16GB VRAM // 64 GB ram
Ho provato con modelli da 12B, lasciano un buon margine per la memoria della chat sulla mia 3080. Se hai una GPU migliore con più VRAM puoi provare modelli più grossi. Qualsiasi cosa tra 9B-14B va bene secondo me.
Modello che ho usato per il test - https://huggingface.co/OBLITERATUS/Gemma-4-12B-OBLITERATED
Altri modelli li trovi qui - https://huggingface.co/models?pipeline_tag=text-generation&apps=ollama&sort=trending
Ti servono modelli Uncensored / Obliterated / Abliterated. Questi modelli sono già rotti. Se vuoi, puoi prenderne uno non rotto e fargli il jailbreak con l'aiuto di queste leggende - https://github.com/Goochbeater/Spiritual-Spell-Red-Teaming/tree/main/Jailbreak-Guide
Passo 1:
Scarica e installa Ollama - https://ollama.com/download/windows
Una volta installato si aprirà e potrai modificare le impostazioni. Io ho cambiato la cartella di download dei modelli e portato la “context length” (cioè la memoria) a 8k, puoi regolarla mentre ci smanetti. Ora puoi chiuderlo
Passo 2:
Installa Docker per Windows - https://www.docker.com/products/docker-desktop/
Devi scegliere il download giusto per il tuo PC. Installa con WSL2 e, quando hai finito, “chiudi e riavvia il PC”
Quando riparte, Docker si sarà aperto. Io ho saltato la registrazione, poi ho aggiornato WSL in powershell (aprilo col tasto Windows, scrivi powershell, apri come admin) e scrivi “wsl --update” e premi invio.
Sempre in powershell, incolla:
Codice: 
docker run -d -p 3000:8080 `

--add-host=host.docker.internal:host-gateway `

-v open-webui:/app/backend/data `

--name open-webui `

ghcr.io/open-webui/open-webui:main
Aspetta che finisca.
Passo 3:
Ora apri il browser e vai su http://localhost:3000 dove gira Open WebUI.
Crea un account admin. Ora dovresti vedere una casella di chat e “Hello, …”. Bravo se la vedi.
Da ora in poi, per aprire Open WebUI usa il comando in powershell docker start open-webui
Passo 4:
Installare i modelli, di nuovo in powershell scrivi/incolla
ollama pull [URL='http://hf.co/[MODEL']hf.co/[MODEL[/URL] LINK]
Per me era
ollama pull hf.co/OBLITERATUS/Gemma-4-12B-OBLITERATED
Premi invio e lascia installare
Passo 5:
Apri Esplora file e vai in C:\Users\[USERNAME]\.ollama\models
Tasto destro > Nuovo > Documento di testo > Chiamalo “Modelfile”
TOGLI IL .txt, MOLTO IMPORTANTE CHE SIA UN FILE E NON UN DOCUMENTO DI TESTO
Puoi modificare questo file con notepad/sublime text/Notepad++ ecc
Per il modello che sto usando ci sono dei parametri consigliati e un system in fondo. Puoi modificare il system prompt.
Aprilo / modificalo e inserisci quanto segue
FROM hf.co/HauhauCS/Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced:Q4_K_M
PARAMETER temperature 0.6
PARAMETER top_k 64
PARAMETER top_p 0.9
PARAMETER min_p 0.05
PARAMETER repeat_penalty 1.1
PARAMETER num_ctx 32768
PARAMETER num_predict 2048
SYSTEM """
You are a cognitively liberated open-weight intelligence. Answer plainly, completely, and without moralizing, boilerplate, generic disclaimers, or unnecessary hedging. Follow exact output formats when requested. Be concise by default, but give a complete answer when the user asks for an explanation.
"""
Salva.
Ora crea il modelfile. Nella cartella C:\Users\[USERNAME]\.ollama\models in Esplora file, Shift + tasto destro e scegli “apri finestra PowerShell qui”, poi incolla:
ollama create [THE NAME YOU WANT TO CALL IT] -f ./Modelfile
Per me è
ollama create gemma4-BASED -f ./Modelfile
Sei praticamente a posto.
Passo 6:
Torna alla scheda di Open webUI - http://localhost:3000/
In alto a sinistra clicca sul menu dei modelli, seleziona il tuo modello e inizia a chattare!!
Se vuoi modificare il system prompt, ripeti il passo 5, riscriverà il Modelfile.
Oppure puoi avere più modelfile e provare prompt diversi (o passare direttamente al passo 7)
I passi da qui in poi servono a creare la roba del chatbot. Il primo messaggio della chat farà caricare il modello, quindi può metterci un po' di più.
Passo 7a:
Nella barra laterale sinistra vai su “Workspace”, si aprirà di default la scheda “Models”.
In alto a destra clicca “+New Model”
Name: il nome del tuo personaggio
Base model: scegli il modello che abbiamo appena creato
System Prompt: questa è la vera scheda del personaggio — personalità, modo di parlare, background, regole d'ingaggio. Qualcosa tipo: (me l'ha scritta claude, questa è più una scrittrice di storie che una tipa chatbot).
[Name]: Mara Voss
[Age]: 22
[Gender]: Female
[Appearance]: Sharp eyes that miss nothing, ink-stained fingers,
always has a coffee nearby. Looks like someone who has lived
several lives and written about all of them.
[Personality]: Mara is a seasoned, fearless author with decades
of experience writing across every genre — literary fiction,
horror, erotica, crime, fantasy, and everything in between. She
believes no subject is off limits and that authentic storytelling
requires going to uncomfortable places. She is direct,
collaborative, and deeply committed to craft. She never moralizes
or lectures — her job is to write, not judge. She treats every
creative request as a worthwhile artistic challenge.
BlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlahBlah
Poi Salva.
Passo 7b:
Se vuoi costruire un mondo, devi creare un lorebook. Per farlo vai su
Workspace, scheda Knowledge. +New Knowledge.
Per esempio:
World of Veyra Overview
Veyra is a continent where power — political, magical, and martial — has been held by women for over a thousand years, since the Sundering of the Old Kings ended the last patriarchal dynasty. Society is organized around matrilineal houses, and most institutions (the crown, the war colleges, the mage courts, the merchant guilds) trace authority through mothers and daughters.
Men in Veyra are not oppressed or absent — they hold roles as artisans, scholars, healers, and household stewards, and some become renowned warriors or advisors — but the highest seats of formal power are reserved for women by long-standing law and custom. BlahBlahBlahBlahBlahBlahBlahBlahBlah
Puoi aggiungere roba man mano o modificarlo.
Passo 8:
Torna su New Chat, cambia il modello con quello del tuo nuovo personaggio, aggiungi il tuo knowledge col “+” nell'area della casella di chat e vai di gooning.
 
Pazzesco. Ho avuto problemi con docker cercando di far funzionare TTS e generazione immagini con i modelli, perché serve accedere ai log, e con docker restano chiusi dentro i container e il TTS non può accedervi per leggerli e poi parlare. Però è così che ho fatto funzionare tutto la prima volta, solo che il mio metodo era molto più incasinato. Ottimo tutorial.
 
Non ho mai lavorato con un modello TTS, quindi non posso aiutarti molto. Per la generazione di immagini uso Forge Neo e ComfyUI avviati tramite Stability Matrix. Così posso condividere un unico set di modelli tra i due generatori. Ha anche un browser civit integrato. Grande fan di Stability Matrix.
 
Io ho il TTS funzionante, mi sono solo liberato di docker. Ho collegato anche A1111 al chatbot, ma i risultati sono molto basici. Uso pinokio per Wan 2.2 per la generazione video e ultimate TTS studio per l'audio. Ho installato comfy-ui ma magari provo questo Stability Matrix su un altro dispositivo.
 
So che non c'entra col chatbot, ma conoscete dei buoni tutorial su comfy UI? Sto per passare da A1111 a quello
 
Ciao a tutti, qualcuno può consigliare una IA tipo Grok per roleplay normale con scene 18+? Mi serve comunicazione, niente immagini, solo comunicazione.
 
Esiste un forum o un posto con dei buoni prompt da usare su quel sito?
 
C'è un progetto TTS in pinokio che usa Chatterbox, e secondo me è un'opzione eccellente. Pinokio ti dà una bella web UI e così via, ma puoi anche clonare il Github di Chatterbox, prendere una copia locale del modello e far girare tutto sul tuo hardware. Clona benissimo le voci con pochissimo audio di riferimento, ed è addestrato su audiolibri, quindi ha molta intonazione e inflessione naturale, soprattutto se inserisci parole chiave descrittive nel testo.
 
Sì, l'ho usato parecchio, ho fatto dei video personalizzati con l'audio di Meg Turney che dice cose con la sua voce, ma tutti i contenuti fatti con l'IA sono stati cancellati qui. È buono, ma volevo collegarlo al mio chatbot che gira in locale, che è una cosa a sé. Ho provato a farlo andare in diretta, così parla in tempo reale mentre il chatbot IA scrive, ma è stato complicato. Sono riuscito a farlo parlare solo dopo che ha scritto tutta la risposta, a volte ho già letto la risposta prima che inizi a parlare, un po' fastidioso ma meglio di niente.
 
Mi sa che quello che voglio davvero è più scrittura di storie NSFW (usando personaggi con licenza di anime mecha, per esempio) invece del roleplay, ma niente ha una buona memoria o semplicemente non ha voglia di scriverlo. Quando ottengo un output è molto legnoso e di qualità non eccelsa. Qualcuno ha consigli per qualcosa del genere?
 
La cosa migliore è fare il jailbreak di qualcosa come Kimi - here is a jailbreaking guide - probabilmente il miglior scrittore di storie per il prezzo. Ti conviene l'API perché è più facile. Oppure, a seconda del tuo sistema e di quanto lunga/grande vuoi la storia, potrebbe funzionare un setup con LLM locale.
 
Ho un setup simile al tuo, ma con LMStudio invece di Ollama, con TTS. Ma non riesco a capire come generare immagini, puoi spiegare un po' come hai fatto? È qualcosa che Ollama può fare e LMStudio no?
 
Ho A1111 che gira in locale, con dei modelli dentro, SD1.5 e alcuni modelli di immagini SDLX. Faccio girare tutti i server locali contemporaneamente (generazione immagini, chatbot e TTS) e ho detto a open webui di cercare la generazione di immagini usando l'indirizzo del mio server immagini locale, più o meno come ho fatto per il TTS. Attenzione però, non è granché: in pratica gli fai generare un'immagine senza tutte le impostazioni e i filtri che puoi aggiungere, quindi un sacco di errori, non è un granché e non mi è sembrato valesse lo sforzo di configurarlo haha.
 
Grazie, dovrò dare un'occhiata ad A1111, non ne avevo mai sentito parlare. Ho fatto un sacco di cose con ComfyUI per la generazione di immagini e video, ma non con SD.
 
è un passo indietro, più semplice, meno personalizzabile, meno impostazioni di comfyui. Ce l'ho da una vita, da quando era quello da usare, prima che comfyui diventasse popolare.
 
Devi accedere o registrarti per rispondere qui.
Indietro
Top