Wie sieht die KI-Entwicklung in den Augen eines Mitglieds der Buchbranche aus?
Um diese Frage zu beantworten haben wir Hermann Eckel interviewt, der schon seit fast 25 Jahren in der Buchbranche arbeitet. Er war schon im Vertrieb, in der Geschäftsführung für verschiedene Fachverlage und ab Ende 2017 fünf Jahre als Geschäftsleiter von tolino media tätig. Nun ist er seit knapp zwei Jahren Teil des Beraternetzwerkes Heinold & Friends, selbstständig und begleitet Branchenunternehmen bei der digitalen und organisatorischen Transformation. Zusätzlich unterrichtet Herr Eckel regelmäßig am mediacampus frankfurt und ist seit 2019 einer der drei Sprecher:innen der IG Digital. Zu seinen Aufgaben als Sprecher gehört das Planen der jährlichen Veranstaltungen, in denen Impulse für die innovative Weiterentwicklung der Branche gegeben werden und eine Plattform zum Austauschen generiert wird.
Herr Eckel, wie sind Sie zu Ihrem Interesse an KI gekommen?
Spätestens seitdem die ersten E-Books herauskamen, haben mich eigentlich alle neuen Technologien interessiert, die für die Buchbranche relevant sind. Dies reicht von VR und AR über Blockchain bis hin zu KI. Als dann Open AI vor knapp zwei Jahren ChatGPT öffentlich und kostenlos zugänglich gemacht hat, war ich davon wie alle anderen auch total überrascht und begeistert. Bald danach kamen dann auch die ersten Branchenunternehmen mit ihren Fragen und Bedürfnissen rund um KI auf mich persönlich wie auf die IG Digital zu, und seitdem habe ich mich immer intensiver mit dem Thema beschäftigt.
Wie beurteilen Sie den aktuellen Stand der KI-Technologie und ihre Fortschritte in den letzten Jahren für die Buchbranche?
Wie wir alle live miterleben, sind die Fortschritte insgesamt spektakulär. Weiterhin kommen ständig neue, beeindruckende Tools auf den Markt, wie zuletzt der in Freiburg entwickelte Bildgenerator Flux oder Googles NotebookLM, mit dem man seit Kurzem auch aus PDFs oder Website-Informationen auf Knopfdruck Podcasts in beeindruckender Qualität erstellen kann. Probleme wie das berüchtigte „Halluzinieren“, also das Erfinden vermeintlicher Fakten oder das fehlerhafte Generieren von Händen, bestehen jedoch weiterhin. Allerdings werden die Großen Sprachmodelle als Basis für generative KI auch hierin immer besser. Besonders für Verlage bleibt es eine Herausforderung, aber auch eine große Chance, sicherzustellen, dass mit KI-Unterstützung generierter Content absolut verlässliche Informationen liefert. Vor diesem Hintergrund kommt der RAG-Technik („Retrieval Augmented Generation“), welche die Stärken von abfragebasierten und generativen Modellen der KI kombiniert, eine zentrale Bedeutung zu. Hierbei wird eine KI mit den eigenen, sorgfältig edierten Texten oder anderen Informationen trainiert und generiert ihre Ergebnisse dann auf dieser Grundlage. Damit sind KI-Halluzinationen im Grunde ausgeschlossen. Verlage mit ihren sorgfältig kuratierten und edierten Inhalten haben hier also einen echten Wettbewerbsvorteil in punkto Verlässlichkeit.
Welche Bereiche oder Anwendungen der KI sehen Sie als besonders vielversprechend an?
Auf der Grundlage der RAG-Technik können etwa Fach- und Wissenschaftsverlage ihre Informationsdienstleistungen ausbauen und ihren Kund:innen noch mächtigere Datenbanken und Wissensportale anbieten. Ansonsten werden sich KI-Lösungen durch die gesamte Prozesskette ziehen, von der Programmplanung und Strukturierung eines Titels über das Lektorat und Korrektorat, die Content-Produktion und -Vermarktung bis hin zu Kundenservice, Buchhaltung und Lagerdisposition. Auch im Buchhandel ist dies der Fall. Wichtig ist aus meiner Sicht, KI dabei nicht nur als Möglichkeit zur Effizienzsteigerung, sprich: zur Kostensenkung, zu sehen. Vielmehr eröffnet generative KI ganz neue, zusätzliche Möglichkeiten. So ist ein kleiner Verlag oder eine kleine Buchhandlung plötzlich in der Lage, professionelles Social-Media-Marketing zu betreiben und gleich mehrere Kanäle zu bespielen. Denn die verschiedenen Marketing-Texte und die passenden Bilder dazu können von KI erstellt und auch gleich automatisch gepostet werden. Mit den richtigen Prompts kommen dabei inzwischen auch Texte heraus, die nicht so generisch sind und sofort nach KI klingen.
Welche potenziellen Risiken und Herausforderungen sehen Sie im Zusammenhang mit der Entwicklung und Nutzung von KI?
Wir sehen schon jetzt große Risiken und Herausforderungen. So werden Web-Crawler eingesetzt, um sämtliche Informationen von Verlags- und Buchhandels-Websites auszulesen. Dies ist zunächst erstmal nicht strafbar, aber erzeugt immensen Traffic auf den Seiten und kann diese so zeitweise lahmlegen. Buchstäblich kriminell wird es, wenn dabei versucht wird, auch an Daten zu gelangen, die eigentlich durch Firewalls geschützt und eben nicht öffentlich zugänglich sind. All das, um an weitere Daten für das Training von Sprachmodellen zu kommen oder auch, um auf dieser Datengrundlage noch bessere Fake-Bücher und -Wissenschaftsartikel zu generieren. Letztere sind bereits so ein signifikantes Problem für Wissenschaftsverlage, dass etwa Springer Nature zwei KI-Tools zum Erkennen KI-generierter Bilder und Texte entwickelt hat. Währenddessen finden sich auf Amazon und in anderen Online-Shops jede Menge KI-generierte Kopien von Bestsellern im Ratgeber- und Sachbuchbereich. Die werden wiederum durch KI-genierte Fake-Rezensionen so weit im Ranking nach oben gepusht, dass sie sich besser verkaufen als die originalen Verlagstitel.
Halten Sie die derzeitigen Regulierungen und Richtlinien für KI ausreichend?
Für die Nutzung von KI im eigenen Unternehmen reichen sie meiner Ansicht nach schon aus, man sollte aber zusätzlich noch eigene Leitlinien als Handlungsanleitung für die Mitarbeitenden, Autor:innen usw. formulieren. An der Frage, ob die KI-Regulierung in Europa (Stichwort: EU AI Act) der weiteren KI-Entwicklung auf unserem Kontinent schadet und damit einen Nachteil im globalen Wettbewerb bedeutet oder umgekehrt genau die richtige Richtung vorgibt, scheiden sich noch die Geister. Ich fürchte aber, es gibt im Bereich KI ähnliche Unzulänglichkeiten in der Durchsetzung von gesetzlichen Richtlinien wie bei den Sozialen Medien. Am Ende weisen die großen Plattformen alle Verantwortung für kriminelle oder destruktive Inhalte und Handlungen weit von sich, und niemand kann irgendwie belangt werden. Das ist extrem unbefriedigend.
Welche Zukunftsvision haben Sie für die Entwicklung und Nutzung von KI in den nächsten 10 bis 20 Jahren?
Eine große Frage! Es ist immer wieder von der „Superintelligenz“ die Rede, die uns Menschen weit überlegen sein werde. Ob die tatsächlich jemals entwickelt werden wird, oder wann es so weit sein könnte, kann ich nicht einschätzen. Aber einige Entwicklungslinien zeichnen sich durchaus schon ab. So sind etwa in der Medizin atemberaubende Fortschritte zu erwarten, die durch weitere Durchbrüche in der KI, aber auch in der Robotik, bei Quantencomputern und in der Bio- und Nanotechnologie angetrieben werden. All diese Kerntechnologien inspirieren sich gegenseitig, was zu einer noch schnelleren exponentiellen Beschleunigung der KI führt. Kürzlich habe ich von KI-trainierten Nanorobotern gelesen, die ganz gezielt Krebszellen angreifen und töten können, zumindest bei Mäusen wurde diese Therapie bereits erfolgreich eingesetzt.
Kurz: Vieles von dem, was für uns heute noch als Science-Fiction erscheint, kann immer schneller Realität werden. Auf jeden Fall gilt: „AI is here to stay“ – genauso wie das Internet. Und wie es nun schon seit einiger Zeit „Digital Natives“ gibt, wird es schon bald „AI Natives“ geben, die mit KI-Funktionen im Smartphone aufwachsen und sich darüber wundern werden, warum wir uns über Dinge wundern, die für sie völlig selbstverständlich sind.
Wir danken Ihnen für Ihre Zeit.
Autorinnen: Sarah Läbe & F.P.