Ollama on Avvocati e Mac

57. Passare a Calendario e Promemoria per gestire l’attività lavorativa

Mon, 16 Jun 2025 04:00:00 +0000

In questa puntata ti parlo del mio passaggio per la gestione della professione da Fantastical e Todoist a Calendario e Promemoria di Apple e di come ho usato Comandi Rapidi e gli LLM per implementare il “linguaggio naturale” in Promemoria.

Note dell’episodio

Come sempre, se ti è piaciuto quel che hai letto, ascoltato o visto e non l’hai già fatto, ti suggerisco di iscriverti alla mia newsletter. Ti avvertirò dei nuovi articoli che pubblico (oltre ai podcast e video su YouTube) e, mensilmente, ti segnalerò articoli che ho raccolto nel corso del mese ed ho trovato interessanti.

52. Apple Intelligence in italiano ed esperimenti con Intelligenza Artificiale

Mon, 07 Apr 2025 04:00:00 +0000

In questa puntata ti parlo di Apple Intelligence in italiano, di nuovi LLM locali che mi stanno stupendo e di RAG “agentica” con n8n.

Note dell’episodio

Link

Ecco un elenco puntato di possibili argomenti per cui creare link nelle note dell’episodio:

Apple Intelligence: In uscita a breve in italiano.
iOS 18.4: Versione del sistema operativo testata con Apple Intelligence.
Sequoia 15.4: Versione del sistema operativo macOS testata con Apple Intelligence.
Gemmoji: Funzione di generazione immagini con intelligenza artificiale su iPhone, iPad e Ma.
MacStudio (M1): Computer utilizzato per i test di Apple Intelligence e altri strumenti di IA.
Funzioni di scrittura di Apple Intelligence: Revisione testi, e-mail professionali/amichevoli.
Estrapolazione di tabelle dal testo con Apple Intelligence: Funzionalità per strutturare informazioni.
Emoji modificate/generate con intelligenza artificiale (Apple Intelligence): Personalizzazione delle emoji.
Stable Diffusion: Modello di intelligenza artificiale per la creazione di immagini.
Flux: Modello di intelligenza artificiale avanzato per la creazione di immagini.
Ritardo di Siri più intelligente e interfaccia AI con le app iOS/macOS: Funzionalità non disponibili a breve.
Articolo di Federico Viticci: Contiene considerazioni sul ritardo delle funzioni avanzate di Apple Intelligence.
Alexa Intelligente: Funzione di intelligenza artificiale di Amazon, menzionata in relazione al marketing di Apple.
Ollama: Strumento alternativo per utilizzare modelli di intelligenza artificiale su Mac.
QWQ (32 miliardi di parametri): Modello di linguaggio di grandi dimensioni utilizzato per esperimenti.
OpenThinker (32 miliardi di parametri): Modello di linguaggio di grandi dimensioni utilizzato per esperimenti.
DeepSeek R1 (670 miliardi di parametri): Modello di linguaggio di grandi dimensioni con cui QWQ rivaleggia nei benchmark.
Finestra di contesto (token): Capacità dei modelli QWQ e OpenSync di gestire lunghe sequenze di testo.
Mistral Small: Modello di linguaggio utilizzato per la traduzione in italiano.
RAG agentica (o “agentic rag”): Esperimenti con sistemi di Retrieval-Augmented Generation potenziati da agenti.
Video sull’agentic RAG in n8n: Fonte di ispirazione per gli esperimenti descritti.
n8n: Piattaforma di automazione del flusso di lavoro utilizzata per costruire l’agentic RAG.
Docker: Tecnologia di containerizzazione utilizzata per semplificare l’installazione del sistema agentic RAG.
Agente (nel contesto dell’IA): Programma che utilizza un LLM come interfaccia per risolvere compiti.
LLM (Large Language Model): Modello linguistico per l’autocompletamento e l’interazione testuale.
RAG (Retrieval-Augmented Generation): Tecnica per migliorare le risposte degli LLM fornendo loro informazioni esterne (dai documenti).
Open Web UI: Interfaccia utente menzionata in relazione a semplici implementazioni di RAG.
SuperBase: Database vettoriale utilizzato nel workflow agentic RAG.
Embedding: Processo di conversione del testo in vettori per la RAG.
Docling: Convertitore di formati di documenti (pdf, docx, powerpoint) in Markdown.
Markdown: Formato di testo semplice con markup, preferito per l’elaborazione da parte degli LLM.
API di Docling: Interfaccia HTTP per interagire con Docklink.
Container (Docker) con le API di Docklink: Soluzione implementata per utilizzare Docklink in N8n.
Passthrough della GPU con Docker su Mac: Limitazione tecnica che impedisce l’utilizzo completo delle GPU Apple all’interno dei container.
Chip ARM di Apple: Architettura dei processori Apple Silicon su cui il passthrough della GPU in Docker non è attualmente disponibile.
GDPR (Regolamento generale sulla protezione dei dati): Documento utilizzato per i test della RAG agentica.
Data breach: Scenario utilizzato come esempio per interrogare il GDPR con la RAG agentica.
Ricerca online (integrazione con agentic RAG): Possibilità di estendere le capacità della RAG agentica all’informazione presente su internet.
Interrogazione di database (integrazione con agentic RAG): Capacità di estrarre dati da database.
Newsletter di Avvocati e Mac

Sinossi

Novità su Apple Intelligence in italiano

Filippo parla del ritardo di Apple Intelligence e dei suoi test sulla versione italiana di Apple Intelligence, avendo aggiornato il suo iPhone 16 a iOS 18.4 e il MacStudio a Sequoia 15.4.

46. Intelligenza Artificiale con Apple Silicon

Mon, 13 Jan 2025 05:00:00 +0000

In questa puntata, monotematica, ti parlo di come fare Intelligenza Artificiale sugli Apple Silicon (in particolare ad usare gli LLM), vantaggi, svantaggi e le basi indispensabili per il loro utilizzo.

Note dell’episodio

Link e Risorse Menzionate nel Podcast

Il podcast “Avocati Mac Compendium” episodio 46 si concentra sull’utilizzo dell’intelligenza artificiale (AI) su Apple Silicon.

Dialogare in modo avanzato con un LLM locale con n8n

Sun, 24 Nov 2024 08:00:00 +0000

Dialogare in modo avanzato con un LLM locale con n8n

In questo articolo vedremo le basi di utilizzo di n8n e come creare un rudimentale sistema di chat con Ollama, ne approfitterò inoltre per mostrarti perché è interessate usare n8n in congiunzione con un LLM locale.

0. Premesse

Ti ho già parlato di n8n in questo articolo per cui, qui, non mi ripeto.

Oggi infine non ti spiego come è possibile installare n8n (è mia intenzione parlartene con calma in un futuro articolo se c’è interesse).

Introduzione a n8n: automazione no-code per Intelligenza Artificiale

Sat, 02 Nov 2024 08:00:00 +0000

In questo ultimo periodo, tra le varie cose, sto giocando con n8n e mi pare giusto iniziare ad introdurlo qui per poi valutare (grazie anche al tuo feedback) se ha senso parlarne più in dettaglio.

1. Che cos’è n8n?

n8n è la versione open-source di servizi a pagamento come Zapier Make IFTTT. In estrema sintesi sono piattaforme web che si prefiggono di automatizzare e far dialogare differenti servizi web.

Elenco documenti creato grazie alla IA utilizzando Comandi Rapidi

Sun, 06 Oct 2024 07:00:00 +0000

Non sono sicuramente un “credente delle IA” ma sto cercando di imparare il loro funzionamento e, soprattutto, i campi in cui poterle usare concretamente.

In questo articolo ti spiegherò come ho utilizzato gli LLM per creare in modo rapido e (quasi) senza sforzo l’elenco dei documenti di un atto giudiziario.

0. Premessa: rinvio alle basi e nomenclatura dei file

Prima di entrare nel vivo dell’articolo, tuttavia, occorre fare un passo indietro.

Comandi Rapidi ed Ollama: le basi

Sun, 29 Sep 2024 07:00:00 +0000

Ho già mostrato in precedenti articoli l’utilizzo di Ollama su Mac, mi sono tuttavia soffermato solo su 2 aspetti: l’utilizzo a riga di comando con il comando llm o l’utilizzo con un sistema a chat, in stile chatGPT, attraverso OpenWeb UI.

Esiste una terza via che sto utilizzando e di cui ti voglio parlare in questo articolo: le API di Ollama e Comandi rapidi.

1. Cosa sono le API?

API è l’acronimo per application programming interface in italiano “interfaccia di programmazione dell’applicazione” (fonte wikipedia). È uno dei sistemi su cui si basano le applicazioni web e, per quanto ci riguarda, lo strumento che ci permetterà di far dialogare Ollama con Comandi Rapidi.

LLM per tutti con Ollama e Llama 3.2

Thu, 26 Sep 2024 07:00:00 +0000

Questo è un breve articolo di segnalazione, ma credo ne valga la pena.

1. Llama 3.2

In questi giorni infatti Meta, ex Facebook, rilasciato Llama3.2 della versione da 1B e 3B. Sono modelli esclusivamente testuali e larghe language model multilingue.

1.1 3B (3 milioni di parametri)

Il modello 3B supera i modelli Gemma 2 2.6B e Phi 3.5-mini su attività quali:

Seguendo le istruzioni
Riassunto
Riscrittura rapida
utilizzo con tool

La versione quantizzata a 4 bit pesa 2 Gb e può girare senza troppa fatica su qualsiasi Mac con Apple Silicon.

Ollama: come avere una interfaccia simile a chatGPT con Open WebUI

Sun, 05 May 2024 07:00:00 +0000

Nel video che trovi sotto, ti mostro come installare Open WebUI una delle interfacce grafiche migliori e più avanzate per Ollama.

Open WebUI è un progetto ormai maturo e relativamente semplice da installare ma non è un’app che si installa con un click. Occorre infatti prima installare Docker e poi installare il container di Open WebUI.

Configurare Rivet per utilizzare LLM in locale con Ollama

Sun, 28 Apr 2024 07:00:00 +0000

Recentemente mi è stato chiesto come configurare Rivet per l’utilizzo con Ollama (qui trovi il video che ho fatto presentando Rivet).

Ho deciso di fare un video in cui lo spiego (che trovi qui sotto) ma l’amico Lucio mi ha suggerito anche di fare un articolo per chi preferisce leggere piuttosto che vedere … ed eccomi qui.

1. Rivet

Rivet, come scrivono sul sito, è un ambiente di programmazione visiva per la costruzione di agenti di intelligenza artificiale con LLM. Puoi iterare usando i grafici di prompt in Rivet, quindi eseguili direttamente nella tua applicazione. Con Rivet, i team possono progettare, eseguire il debug e collaborare efficacemente su complessi grafici di prompt LLM e distribuirli nel proprio ambiente.

Configurazione Rivet per utilizzarlo con Ollama

Mon, 15 Apr 2024 07:00:00 +0000

Recentemente, sul canale YouTube di Avvocati e Mac mi è stato chiesto come configurare Rivet per utilizzarlo con Ollama.

Oltre a rispondere alla richiesta ho pensato che fosse utile farci anche un video (e più avanti un articolo).

Qui sotto trovi il video 👇.

Rivet

Ti ho già parlato di Rivet qui.

Rivet: una soluzione facile e veloce per creare agenti AI con LLM in locale

Wed, 20 Mar 2024 08:00:00 +0000

Rivet: una soluzione facile e veloce per creare agenti AI con LLM in locale

Ho scoperto da pochissimo una interessante (e giovane) iniziativa open-source in ambito di Intelligenza Artificiale: Rivet.

Non ho maturato ancora sufficiente esperienza per parlartene in modo approfondito e con la dovuta cognizione di causa ma nel video che segue ti mostro perché lo ritengo interessante.

Installazione ed utilizzo di Ollama su Mac: guida per principianti per chattare con il tuo LLM personale

Fri, 15 Mar 2024 08:00:00 +0000

Non avendo trovato guide in italiano su come installare Ollama e visti i miei esperimenti con gli LLM ed il prompt engineering ho deciso di scrivere questa guida passo passo.

1. Che cos’è Ollama?

Ollama è un framework, open-source, leggero ed estensibile per la costruzione e l’esecuzione di LLM (Large Language Model) che possono essere fatti girare sul tuo computer in locale. Fornisce una semplice API per la creazione, l’esecuzione e la gestione di modelli, nonché una libreria di modelli predefiniti che possono essere facilmente utilizzati.