Drei junge Wanderer wurden vom Mount Shasta in Kalifornien gerettet, nachdem sie ihren Aufstieg mit Hilfe von Gemini, dem Chatbot von Google, geplant hatten. Der Bericht des Sheriffbüros von Siskiyou County enthält das entscheidende Detail: Das Modell empfahl ihnen, weit weniger Essen und Wasser mitzunehmen, als die Gruppe brauchte.

Die Chronologie genügt für sich. Aufbruch um drei Uhr morgens. Die Regel des Bergs ist einfach und steht an jedem Wegweiser - wer bis mittags nicht am Gipfel ist, kehrt um. Sie erreichten den Gipfel um sieben Uhr abends. Danach versuchten sie im Dunkeln abzusteigen, riefen das Sheriffbüro an, um zu fragen, wohin sie gehen sollten, verbrachten die Nacht im Mud-Creek-Canyon und wurden am nächsten Morgen von Rangern und Freiwilligen herausgeholt.

Ist der Chatbot daran schuld? Nicht vollständig, und das gehört laut gesagt. Niemand zwang sie, sieben Stunden nach der Umkehrzeit weiter aufzusteigen. Aber ein achtstündiger Aufstieg, der zu einer mehrtägigen Tortur wurde, ging nicht am Gipfel schief - er ging in dem Moment schief, als jemand fragte, wie viel Wasser er mitnehmen soll, und eine selbstsichere Antwort von einer Maschine bekam, die nie dort war.

„Es ist immer ratsam, vor der Tour die örtliche Rangerstation am Mount Shasta anzurufen, um die genauesten Informationen zu bekommen, und sich bei der Planung niemals ausschließlich auf künstliche Intelligenz zu verlassen“, teilte das Sheriffbüro mit. Der Satz klingt wie ein banaler Sicherheitshinweis. Tatsächlich muss zum ersten Mal ein amerikanischer Rettungsdienst offiziell festhalten, dass ein Chatbot keine Quelle für Bergsteigerinformationen ist.

Das Problem ist nicht, dass das Modell sich irrte. Das Problem ist, wie es sich irrte - ohne ein einziges Zeichen von Unsicherheit. Ein Ranger am Schalter sieht dich an, fragt, wie viel Wasser du dabeihast, und zieht eine Augenbraue hoch. Das Modell nennt dir die Zahl im selben ruhigen Ton, in dem es ein Rezept erklärt. In diesem Sommer hat der Balkan genug eigene Berge, eigene unmarkierte Pfade und genug Menschen, die ihre erste Frage zu einer Tour in eine App tippen und nicht in die Telefonliste eines Bergsteigervereins.