Models amb les teves dades.
Machine learning a mida quan un LLM genèric no n’hi ha prou: speech-to-text ajustat al teu sector, Document AI, scoring, classificació, rànquing, recomanació, previsió i models de decisió. Entrenats amb les teves dades, mesurats contra el que ja fas avui i operats en producció.
Explica’ns què vols predir- Per a qui
- Equips amb una decisió concreta i repetida per automatitzar
- Comença amb
- Una revisió de dades i un model de referència
- Després
- Models en producció, amb monitoratge i reentrenament
- Casos d’ús
- Veu, documents, scoring, rànquing, previsió
Quan un LLM
no és prou.
Construïm el model que encaixa amb el problema, i el pipeline que el manté precís.
Un model de machine learning aprèn patrons a partir d’exemples, normalment dades històriques etiquetades pel teu equip. Té sentit quan la tasca és concreta, mesurable i es repeteix milers de vegades: transcriure trucades amb el vocabulari del teu sector, puntuar un risc, ordenar candidats o preveure la demanda. Aquí un LLM genèric sol ser més car, més lent i més difícil d’explicar.
- DadesQuin històric i quines etiquetes tens, i què falta per entrenar.
- ReferènciaPrimer regles o un model simple, per saber què cal millorar.
- EntrenamentModels supervisats, de rànquing o de previsió, o un speech-to-text ajustat al teu domini.
- AvaluacióAmb dades que el model no ha vist i mètriques acordades amb negoci. Aquí és on fallen la majoria de projectes d’ML.
- ExplicacióPer què el model decideix el que decideix, en cada cas.
- MLOpsDesplegament, vigilància de la deriva i reentrenament, al teu núvol.
- Python
- ML supervisat
- ASR afinat
- Keras
- NLP
- SHAP
- AWS SageMaker
- Vertex AI
- Azure
- AWS Kinesis
Els termes, en una frase
- Aprenentatge supervisat
- El model aprèn d’exemples amb la resposta correcta, per exemple trucades ja revisades pel teu equip de qualitat.
- ASR afinat
- Un model de speech-to-text reentrenat amb el teu àudio perquè entengui la teva terminologia i els accents dels teus clients.
- Model de rànquing
- Ordena opcions (experts, productes, casos) de la més a la menys adequada per a cada situació.
- Deriva
- Quan les dades reals canvien respecte a les d’entrenament i el model comença a encertar menys sense avisar.
- SHAP
- Tècnica que mostra quant ha pesat cada dada en una decisió concreta del model.
- MLOps
- Les pràctiques i eines per desplegar, vigilar i reentrenar models igual que es gestiona la resta del software.
Què t’emportes.
- Revisió de dadesQuines dades serveixen, què falta i com etiquetar-ho, per escrit.
- Models entrenatsVersionats, amb el codi d’entrenament i les dades d’avaluació.
- Informe d’avaluacióMètriques sobre dades no vistes i anàlisi dels errors, comparats amb la referència.
- Pipeline d’MLOpsDesplegament, monitoratge de la deriva i reentrenament a AWS SageMaker, Vertex AI o Azure.
- ExplicabilitatCada decisió del model es pot explicar i revisar.
- El sistema és teuCodi, infraestructura i documentació, al teu repositori i al teu compte de núvol des del primer dia.
El que ens pregunten.
Quan necessito machine learning a mida en lloc d’un LLM?
Quan la tasca és estreta, es repeteix molt i es pot mesurar: puntuar, classificar, ordenar, preveure o transcriure amb un vocabulari molt concret. Aquí un model propi sol ser més precís, més barat per ús i més fàcil d’explicar. Per entendre o generar text lliure, un LLM sol ser un millor punt de partida.
Quantes dades calen per entrenar un model propi?
Depèn de la tasca, i ho revisem al principi amb una mostra real. Sovint les dades ja existeixen: en un contact center dels EUA, el model de scoring va aprendre de les revisions que l’equip de qualitat ja feia a mà.
Podeu ajustar un speech-to-text al nostre sector?
Sí. Per a aquest mateix contact center vam afinar el model de veu amb el seu àudio, la seva terminologia i els accents dels seus clients, i va superar el 95 % de precisió en la transcripció.
Com s’expliquen les decisions del model?
Amb tècniques com SHAP, que mostren quines dades han pesat en cada decisió, i combinant el model amb regles de negoci deterministes on el resultat ha de ser exacte. Així cada decisió es pot revisar i auditar.
On es despleguen els models?
Al teu núvol: AWS SageMaker, Google Cloud (Vertex AI) o Azure, o a la teva pròpia infraestructura. Projectes com BCN by Bike i Sync Health ja funcionaven amb models sobre AWS SageMaker.
El sistema és nostre?
Sí. El codi, la infraestructura i la documentació viuen al teu repositori i al teu compte de núvol des del primer sprint. Si vols, continuem operant-lo i evolucionant-lo amb tu.