Die KI-basierte Suche ist offenbar ein ziemlich teurer Spaß, wenn man dem Vorsitzenden des Google-Mutterkonzerns Alphabet, John Hennessy, glauben darf. In einem Interview mit Reuters erklärt er, dass KI-Suchen derzeit wahrscheinlich zehnmal so viel kosten wie „normale“ Suchanfragen. Er geht jedoch davon aus, dass die Kosten durch Feinabstimmung der Technologie schnell gesenkt werden können.
Die „KI-gestützte Suche“ dürfte bei Google zu Mehrkosten in Höhe von etwa 6 Mrd. USD pro Jahr führen, wenn die Hälfte der Suchanfragen von einem ChatGPT-ähnlichen Bot bearbeitet wird und die Antworten etwa 50 Wörter enthalten, so Analysten gegenüber Reuters. Die zusätzlichen Kosten sind größtenteils auf die zusätzliche Rechenleistung zurückzuführen, die für die „maschinelle Lerninferenz“ benötigt wird, den Prozess, mit dem KI-Suchanfragen verarbeitet werden. Auch das Training des KI-Modells ist laut Reuters sehr kostspielig.
Obwohl die Kosten für die Inferenz in den kommenden Jahren deutlich sinken werden, will Google laut Hennessy zunächst Geld sparen, indem es eine „kleinere Version“ des Bard-Chat-Modells herausbringt, wie Reuters berichtet. Dieses wird viel weniger Rechenleistung benötigen, so dass es schnell auf mehr Nutzer ausgeweitet werden kann. Darüber hinaus, so Hennessy, werden auch gezieltere, kleinere KI-Modelle in Betracht gezogen, anstatt ein System, das alles macht. Das könnte auch die Kosten senken, so der Vorsitzende.
