Amb la col·laboració de la Universitat Politècnica de Catalunya.

Seguretat LLMs

En aquest episodi parlem de Q* un nou model general d’IA, encara en desenvolupament, que resolt molt millor problemes especials, com per exemple, matemàtics.

També comentem aspectes i problemes de seguretat en sistemes de LLMs.


PART 1

  • Primeres experiències amb Apple Watch Ultra.
  • Wikiloc
  • Els nou models de LLMs sovint donen respostes inesperades.
  • Estratègies de prompting: “cadena de pensaments”
  • Q* (Q estrella) què és, quina estratègia usa i en quin nivell de desenvolupament es troba.

 



PART 2

  • “L’ètica i la IA”
  • Aspectes i problemes de seguretat en sistemes de LLMs.
    • Filtres
    • Exemples de Hacking de la IA
      • Jailbreak
      • Prompt Injection
      • Bart amb Google Apps (per Google Apps scripts)

 


Propostes Mosseguis:

  • (Rafel Jesús – Navegador) Web Quiche Browser un navegador interessant.
  • (Andreu Guinart – Blockchain) Dos projectes catalans, premiats per aplicar el ‘blockchain’ en la lluita contra la contaminació marina.
  • (Javier – Sèrie) Fa dues setmanes va sortir en minisèrie de Netflix “All the light we cannot see“. Són quatre episodis de 50 minuts. Us deixo el tràiler en català
  • (Txapulin – Mercadona) Només com a contrapunt, fa un temps a un episodi de La Base van dedicar un programa al Juan Roig. Potser així tenim la història una mica més complerta.
  • (Pere Montpeó – Mòbils i Infància) A “Verificat” dades pel debat sobre ús de dispositius mòbils per menors de 16 anys.
  • (Andreu Guinart – limitacions motores) Notícia a “MetaData” que parla sobre la fabricació d’adaptacions funcionals per a persones amb discapacitats motores.