OpenAI hat eine neue Optimierungsmethode vorgestellt, mit der die Inferenzkosten um mehr als die Hälfte sinken sollen. Ursprünglich wurde sie entwickelt, um kostenlose ChatGPT-Konten effizienter bedienen zu können, dürfte aber auch Auswirkungen auf API-Kosten und Skalierung haben.