29. 06. 2023, 13:00

Kaj je narobe z velikimi jezikovnimi modeli in s čim bi jih morali nadomestiti

Video
29. 06. 2023, 13:00

Kaj je narobe z velikimi jezikovnimi modeli in s čim bi jih morali nadomestiti

Video
prof. dr. Thomas G. Dietterich
Univerza Oregon State, ZDA
Thomas G. Dietterich je zaslužni profesor na Fakulteti za elektrotehniko in računalništvo na Državni univerzi Oregon v ZDA. Je eden od pionirjev na področju strojnega učenja ter je avtor več kot 225 recenziranih člankov in dveh knjig. Njegove trenutne raziskovalne teme vključujejo robustno umetno inteligenco, robustne sisteme človek-AI in aplikacije na področju trajnosti.

Veliki jezikovni modeli (LLM, iz angleščine) zagotavljajo prednaučeno osnovo za učenje številnih zanimivih sistemov umetne inteligence. Vendar imajo veliko pomanjkljivosti. Njihovo učenje in posodabljanje je drago, imajo slabo nejezikovno znanje, dajejo napačne in nasprotujoče si izjave, ki so za nameček lahko tudi družbeno in etično neprimerne. V predavanju bom povzel te pomanjkljivosti in trenutna prizadevanja za njihovo reševanje znotraj obstoječega okvira LLM-jev. Nato se bom zavzel za drugačno, bolj modularno arhitekturo, ki razgradi funkcije obstoječih LLM-jev in jim doda več drugih komponent. Verjamem, da lahko ta alternativa odpravi vse pomanjkljivosti LLM-jev. Razmišljal bom o tem, kako bi to modularno arhitekturo lahko zgradili s kombinacijo strojnega učenja in inženiringa.

prof. dr. Thomas G. Dietterich
Univerza Oregon State, ZDA
Thomas G. Dietterich je zaslužni profesor na Fakulteti za elektrotehniko in računalništvo na Državni univerzi Oregon v ZDA. Je eden od pionirjev na področju strojnega učenja ter je avtor več kot 225 recenziranih člankov in dveh knjig. Njegove trenutne raziskovalne teme vključujejo robustno umetno inteligenco, robustne sisteme človek-AI in aplikacije na področju trajnosti.

Zadnja predavanja

Arhiv

2026
2025
2024
2023
2022
2021

2026

2025

Vesoljsko smučanje za zdravje

26. 03. 2025

prof. dr. Igor Mekjavić, Raziskovalni center Evropske vesoljske agencije (ESA) v Planici in Institut »Jožef Stefan«, Ljubljana, Slovenija

2024

2023

Fizika na robu kaosa

6. 12. 2023

izr. prof. dr. Lev Vidmar, Institut »Jožef Stefan« in Fakulteta za matematiko in fiziko, Univerza v Ljubljani, Slovenija

2022

Superdifuzija v Heisenbergovi magnetni verigi
7. 12. 2022
dr. Enej Ilievski, Fakulteta za matematiko in fiziko, Univerza v Ljubljani

Kvantne črne luknje: Hawkingovo srečanje z Ramanujanom
1. 12. 2022
prof. dr. Atish Dabholkar, Mednarodno središče za teoretično fiziko (ICTP), Trst, Italija

V globinah atoma
23. 11. 2022
prof. dr. Alojz Kodre, Fakulteta za matematiko in fiziko, Univerza v Ljubljani

Dinamika domenskih sten v feroelektričnih in relaksorskih keramičnih materialih
16. 11. 2022
prof. dr. Tadej Rojac, Institut »Jožef Stefan«

Običajna in neobičajna stanja sestavljena iz kvarkov
10. 11. 2022
prof. dr. Saša Prelovšek Komelj, Institut »Jožef Stefan« in Fakulteta za matematiko in fiziko Univerze v Ljubljani,

Pomen obdelave: izzivi materialov za drugo četrtino 21. stoletja
26. 10. 2022
prof. dr. Geoff Brennecka, Rudarska šola Colorada, ZDA

Geološko navdihnjeni keramični nosilci: od oblikovanja do medicinske uporabe
21. 09. 2022
dr. Bogdan Parakhonskiy, Univerza v Ghentu, Belgija

Inovacije v radiacijski medicini
7. 09. 2022
prof. dr. Thomas Rockwell Mackie, Univerza v Wisconsinu, ZDA

Aditivna proizvodnja in tehnologije tekočih kristalov
15. 06. 2022
prof. dr. Stephen M. Morris, Univerza v Oxfordu, Velika Britanija

Modeliranje kemičnega onesnaževanja za podporo varnemu in trajnostnemu ravnanju s kemikalijami
5. 05. 2022
prof. dr. Peter Fantke, Tehniška univerza Danske, Danska

Humanoidna robotika – razumevanje človeških sposobnosti in inteligence
24. 03. 2022
prof. dr. Tamim Asfour, Karlsruhe Institute of Technology (KIT), Nemčija

Izziv interneta prihodnosti: varnost, povezljivost in vidiki humanosti
23. 03. 2022
prof. dr. Borka Jerman Blažić, Institut “Jožef Stefan”

Kaj vse nam pove črno-bela slika atomov?
22. 03. 2022
prof. dr. Goran Dražić, Kemijski inštitut, Institut »Jožef Stefan«, Mednarodna podiplomska šola Jožefa Stefana

Merjenje absorpcije aerosolov s fototermičnim interferometrom
21. 03. 2022
prof. dr. Luka Drinovec, Univerza v Novi Gorici, Institut “Jožef Stefan”, Haze Instruments d.o.o.

Absorpcija svetlobe v aerosolih vpliva na podnebje – kako to merimo?
21. 03. 2022
prof. dr. Griša Močnik, Univerza v Novi Gorici, Haze Instruments d.o.o., Institut “Jožef Stefan”

FAIR – vesolje v laboratoriju
16. 03. 2022
prof. dr. Paolo Giubellino in Joerg Blaurock, GSI in FAIR, Darmstadt, Nemčija

Od kvantnih nečistoč do kvantnih naprav
12. 01. 2022
izr. prof. dr. Rok Žitko, Institut “Jožef Stefan” in Fakulteta za matematiko in fiziko Univerze v Ljubljani

2021

Kavitacija – pot od njenega preprečevanja do njene uporabe za uničevanje virusov in bakterij
15. 12. 2021
prof. dr. Matevž Dular, Fakulteta za strojništvo Univerze v Ljubljani

Večskalne simulacije odprtih molekularnih sistemov
24. 11. 2021
prof. dr. Matej Praprotnik, Kemijski inštitut in Fakulteta za matematiko in fiziko Univerze v Ljubljani

Zakaj so podelili Nobelovo nagrado za odkritje proteinov Piezo1 in Piezo2
27. 10. 2021
prof. dr. Saša Svetina, Inštitut za biofiziko, Medicinska fakulteta Univerze v Ljubljani in Institut “Jožef Stefan”

Modeliranje epidemije COVID-19 v Sloveniji
12. 05. 2021
dr. Matjaž Leskovar, Institut “Jožef Stefan”

Nove možnosti raziskav z laserjem na proste elektrone
21. 04. 2021
prof. dr. Claudio Masciovecchio, Elettra Sincrotrone Trieste, Italija

Presejalni test z rentgensko difrakcijo na kristalih glavne proteaze razkril zaviralce virusa SARS-CoV-29
16. 04. 2021
prof. dr. Dušan Turk, Institut “Jožef Stefan”

Optimizacija ukrepov za zajezitev epidemije COVID-19
14. 04. 2021
prof. dr. Mitja Luštrek, Institut “Jožef Stefan”

Fulereni: superprevodnost, magnetizem in qubiti
26. 03. 2021
prof. dr. Denis Arčon, Institut “Jožef Stefan” in Univerza v Ljubljani, Fakulteta za matematiko in fiziko

Meritve kozmičnih delcev ekstremnih energij na Observatoriju Pierre Auger
25. 03. 2021
prof. dr. Andrej Filipčič in prof. dr. Marko Zavrtanik, Institut “Jožef Stefan” in Univerza v Novi Gorici

Izzivi razvoja elektronike kot sopotnice sodobnih raziskav in aplikacij
23. 03. 2021
dr. Janko Petrovčič, Institut “Jožef Stefan”

Kvantno računalništvo z atomi v svetlobnih pasteh
23. 03. 2021
prof. dr. David S. Weiss, Pennsylvania State University, University Park, ZDA

Kvantno računalništvo z atomi v svetlobnih pasteh
Feroelektrična keramika: pogled na stoletje raziskav od odkritja feroelektričnega pojava do danes
22. 03. 2021
prof. dr. Barbara Malič, Institut “Jožef Stefan” in Mednarodna podiplomska šola Jožefa Stefana

Stabilni izotopi v interdisciplinarnih raziskavah
22. 03. 2021
prof. dr. Nives Ogrinc, Institut “Jožef Stefan” in Mednarodna podiplomska šola Jožefa Stefana

Arhiv

2026
2025
2024
2023
2022
2021

2026

2025

Vesoljsko smučanje za zdravje

26. 03. 2025

prof. dr. Igor Mekjavić, Raziskovalni center Evropske vesoljske agencije (ESA) v Planici in Institut »Jožef Stefan«, Ljubljana, Slovenija

2024

2023

Fizika na robu kaosa

6. 12. 2023

izr. prof. dr. Lev Vidmar, Institut »Jožef Stefan« in Fakulteta za matematiko in fiziko, Univerza v Ljubljani, Slovenija

2022

Superdifuzija v Heisenbergovi magnetni verigi
7. 12. 2022
dr. Enej Ilievski, Fakulteta za matematiko in fiziko, Univerza v Ljubljani

Kvantne črne luknje: Hawkingovo srečanje z Ramanujanom
1. 12. 2022
prof. dr. Atish Dabholkar, Mednarodno središče za teoretično fiziko (ICTP), Trst, Italija

V globinah atoma
23. 11. 2022
prof. dr. Alojz Kodre, Fakulteta za matematiko in fiziko, Univerza v Ljubljani

Dinamika domenskih sten v feroelektričnih in relaksorskih keramičnih materialih
16. 11. 2022
prof. dr. Tadej Rojac, Institut »Jožef Stefan«

Običajna in neobičajna stanja sestavljena iz kvarkov
10. 11. 2022
prof. dr. Saša Prelovšek Komelj, Institut »Jožef Stefan« in Fakulteta za matematiko in fiziko Univerze v Ljubljani,

Pomen obdelave: izzivi materialov za drugo četrtino 21. stoletja
26. 10. 2022
prof. dr. Geoff Brennecka, Rudarska šola Colorada, ZDA

Geološko navdihnjeni keramični nosilci: od oblikovanja do medicinske uporabe
21. 09. 2022
dr. Bogdan Parakhonskiy, Univerza v Ghentu, Belgija

Inovacije v radiacijski medicini
7. 09. 2022
prof. dr. Thomas Rockwell Mackie, Univerza v Wisconsinu, ZDA

Aditivna proizvodnja in tehnologije tekočih kristalov
15. 06. 2022
prof. dr. Stephen M. Morris, Univerza v Oxfordu, Velika Britanija

Modeliranje kemičnega onesnaževanja za podporo varnemu in trajnostnemu ravnanju s kemikalijami
5. 05. 2022
prof. dr. Peter Fantke, Tehniška univerza Danske, Danska

Humanoidna robotika – razumevanje človeških sposobnosti in inteligence
24. 03. 2022
prof. dr. Tamim Asfour, Karlsruhe Institute of Technology (KIT), Nemčija

Izziv interneta prihodnosti: varnost, povezljivost in vidiki humanosti
23. 03. 2022
prof. dr. Borka Jerman Blažić, Institut “Jožef Stefan”

Kaj vse nam pove črno-bela slika atomov?
22. 03. 2022
prof. dr. Goran Dražić, Kemijski inštitut, Institut »Jožef Stefan«, Mednarodna podiplomska šola Jožefa Stefana

Merjenje absorpcije aerosolov s fototermičnim interferometrom
21. 03. 2022
prof. dr. Luka Drinovec, Univerza v Novi Gorici, Institut “Jožef Stefan”, Haze Instruments d.o.o.

Absorpcija svetlobe v aerosolih vpliva na podnebje – kako to merimo?
21. 03. 2022
prof. dr. Griša Močnik, Univerza v Novi Gorici, Haze Instruments d.o.o., Institut “Jožef Stefan”

FAIR – vesolje v laboratoriju
16. 03. 2022
prof. dr. Paolo Giubellino in Joerg Blaurock, GSI in FAIR, Darmstadt, Nemčija

Od kvantnih nečistoč do kvantnih naprav
12. 01. 2022
izr. prof. dr. Rok Žitko, Institut “Jožef Stefan” in Fakulteta za matematiko in fiziko Univerze v Ljubljani

2021

Kavitacija – pot od njenega preprečevanja do njene uporabe za uničevanje virusov in bakterij
15. 12. 2021
prof. dr. Matevž Dular, Fakulteta za strojništvo Univerze v Ljubljani

Večskalne simulacije odprtih molekularnih sistemov
24. 11. 2021
prof. dr. Matej Praprotnik, Kemijski inštitut in Fakulteta za matematiko in fiziko Univerze v Ljubljani

Zakaj so podelili Nobelovo nagrado za odkritje proteinov Piezo1 in Piezo2
27. 10. 2021
prof. dr. Saša Svetina, Inštitut za biofiziko, Medicinska fakulteta Univerze v Ljubljani in Institut “Jožef Stefan”

Modeliranje epidemije COVID-19 v Sloveniji
12. 05. 2021
dr. Matjaž Leskovar, Institut “Jožef Stefan”

Nove možnosti raziskav z laserjem na proste elektrone
21. 04. 2021
prof. dr. Claudio Masciovecchio, Elettra Sincrotrone Trieste, Italija

Presejalni test z rentgensko difrakcijo na kristalih glavne proteaze razkril zaviralce virusa SARS-CoV-29
16. 04. 2021
prof. dr. Dušan Turk, Institut “Jožef Stefan”

Optimizacija ukrepov za zajezitev epidemije COVID-19
14. 04. 2021
prof. dr. Mitja Luštrek, Institut “Jožef Stefan”

Fulereni: superprevodnost, magnetizem in qubiti
26. 03. 2021
prof. dr. Denis Arčon, Institut “Jožef Stefan” in Univerza v Ljubljani, Fakulteta za matematiko in fiziko

Meritve kozmičnih delcev ekstremnih energij na Observatoriju Pierre Auger
25. 03. 2021
prof. dr. Andrej Filipčič in prof. dr. Marko Zavrtanik, Institut “Jožef Stefan” in Univerza v Novi Gorici

Izzivi razvoja elektronike kot sopotnice sodobnih raziskav in aplikacij
23. 03. 2021
dr. Janko Petrovčič, Institut “Jožef Stefan”

Kvantno računalništvo z atomi v svetlobnih pasteh
23. 03. 2021
prof. dr. David S. Weiss, Pennsylvania State University, University Park, ZDA

Kvantno računalništvo z atomi v svetlobnih pasteh
Feroelektrična keramika: pogled na stoletje raziskav od odkritja feroelektričnega pojava do danes
22. 03. 2021
prof. dr. Barbara Malič, Institut “Jožef Stefan” in Mednarodna podiplomska šola Jožefa Stefana

Stabilni izotopi v interdisciplinarnih raziskavah
22. 03. 2021
prof. dr. Nives Ogrinc, Institut “Jožef Stefan” in Mednarodna podiplomska šola Jožefa Stefana