Groq LPU Inference Engine | Nvidias Marktherrschaft | Earth, Wind & Power | Smarte Datencenter | Google, Microsoft & Apples Pläne (#22)

Tensorraum - Der KI Podcast | News über AI, Machine Learning, LLMs, Tech-Investitionen und Mehr

07-05-2024 • 56 Min.

Diese Folge von Tensorraum wirft ein Licht auf die spannenden Entwicklungen im Bereich der KI-Hardware, mit einem besonderen Blick auf die Akteure Nvidia & Groq. Arne und Stefan diskutieren die unersetzliche Rolle der Rechenleistung für die Fortschritte in der künstlichen Intelligenz, insbesondere wie Groq mit seinen innovativen Strategien und dem Bau eines Datencenters in Norwegen die Branche vorantreiben möchte. Gleichzeitig beleuchten sie Nvidias festen Stand beim Trainieren von KI-Modellen und diskutieren die zukünftigen Konkurrenzkämpfe. Ein weiteres spannendes Thema ist die Rolle der CEOs in der Technologiebranche, deren öffentliche Auftritte und Entscheidungen maßgeblich die Richtung ihrer Unternehmen bestimmen. Darüber hinaus betrachten sie die zukünftigen Möglichkeiten, die sich aus der Verbreitung verteilter Agenten und der Integration von großen Sprachmodellen (LLMs) ergeben, die das Potenzial haben, die Interaktion zwischen Mensch und Maschine neu zu definieren. Abgerundet wird die Diskussion durch eine Analyse der Positionen von Google, Microsoft und Apple in der sich rasch entwickelnden KI-Landschaft und wie diese Technologie Giganten durch Strategien und Partnerschaften ihren Einfluss im Sektor zu vergrößern suchen. Links zur Folge:  Jensen Huang & Sam Altman Groq Earth Wind & Power Das Datencenter in Norwegen Das Paper über benutzerzentrierte Benchmarks für LLMs Gebt uns gerne Feedback Email: info@tensorraum.de Links zu uns:  https://www.tensorraum.de Stefan Wiezorek: https://www.linkedin.com/in/stefanwiezorek/ Dr. Arne Meyer: https://www.linkedin.com/in/arne-meyer-6a36612b9/ 00:00 Intro & Teaser 02:09 Nvidias GPUs 07:39 Groqs LPUs  10:12 Die Rolle von Agenten 19:22 Earth Wind & Power und Groq Datencenter in Norwegen 27:27 Stefan’s Use-Case Benchmark 36:19 Strategische Positionierung von Google, Microsoft & Apple 40:47 Open Source und Transparenz in der KI-Entwicklung 55:39 Abschluss und Ausblick