Inférence
Kurz erklärt
Der Moment, in dem ein bereits trainiertes KI-Modell daran arbeitet, deine Anfrage zu beantworten. Das Training ist das Lernen – ein für alle Mal. Die Inferenz ist die Anwendung – bei jeder Anfrage.
▶ Präzise Definition
Phase, in der ein trainiertes Modell verwendet wird, um aus einer Eingabe eine Ausgabe zu erzeugen. Diese Phase unterscheidet sich vom Training, verursacht laufende Kosten und wirft Fragen der Souveränität auf, wenn sie in einem bestimmten Hoheitsgebiet, unter einer bestimmten Rechtsordnung und auf kontrollierter Hardware ausgeführt werden soll.
Siehe auch