Adam Maciaszek - Od 4k do 10M w rok - o długości kontekstu w LLM-ach (PyData Bydgoszcz #24)

PyData Bydgoszcz spotkanie 24
czwartek 04.04.2024
Młyny Rothera (Spichrz Zbożowy, 2. piętro), Mennica 10, Bydgoszcz

Adam Maciaszek

"Od 4k do 10M w rok – o długości kontekstu w dużych modelach językowych"
W trakcie prezentacji opowiem o tym, dlaczego modele językowe potrafią przetwarzać tekst o ograniczonej długości. Przedstawię metody, który pozwoliły na znaczne wydłużenie okna kontekstowego w trakcie ostatniego roku. Zastanowimy się też, kiedy warto korzystać z rozwiązań wykorzystujących bardzo długie okno kontekstowe modelu językowego a kiedy lepiej wykorzystać inne metody.

PyData Bydgoszcz

#BydgoszczIT

Realizacja wideo:
Jacek Owczarz
Jack Jack Films
[phone]