Dr. Kevin Jablonka, Nachwuchsgruppenleiter am Institut für Organische Chemie und Makromolekulare Chemie Quelle: Jens Meyer (Universität Jena)

GPT-3 für die chemische Forschung

Publiziert

Forschende entwickeln schnelles und leicht zu nutzendes Sprachmodell für chemische Aufgaben.

GPT-3, das Sprachmodell hinter dem bekannten KI-System ChatGPT, kann auch in der Chemie eingesetzt werden, um verschiedene wissenschaftliche Aufgaben zu lösen. Das demonstrierte ein Team von Forschenden an der École polytechnique fédérale de Lausanne (EPFL), der Friedrich-Schiller-Universität Jena sowie des Helmholtz-Instituts für Polymere in Energieanwendungen (HIPOLE) Jena. Wie das Team im Fachmagazin «Nature Machine Intelligence» berichtet, umgingen sie hierbei das Problem, dass es in der Chemie oftmals an den benötigten grossen Datenmengen fehlt, die für das Training einer KI benötigt werden.

Kuratierte Fragen und Antworten statt grosser Datenmengen

«Eines von verschiedenen Beispielen, die wir verwendet haben, sind sogenannte lichtempfindliche Schalter», illustriert Kevin Jablonka, Erstautor der Arbeit. «Das sind Moleküle, die ihre Struktur ändern wenn Licht einer bestimmten Wellenlänge auf sie fällt. Diese Art von Molekülen gibt es auch im menschlichen Körper: In unseren Netzhautzellen befindet sich das Molekül Rhodopsin, das auf Licht reagiert und damit letztendlich als chemischer Schalter dient, der optische Signale in Nervenimpulse umwandelt», ergänzt er. «Die Frage, ob und wie ein bislang unbekanntes Molekül durch Licht schaltbar ist, ist also durchaus relevant – etwa wenn es darum geht, Sensoren zu entwickeln», fasst er zusammen. «Aber auch die Frage, ob ein Molekül in Wasser gelöst werden kann, haben wir eingebracht», nennt Jablonka als weiteres Beispiel, «denn gerade bei pharmakologischen Wirkstoffen ist die Wasserlöslichkeit ein wichtiger Faktor, damit die gewünschte Wirkung im Körper entfaltet wird.»

Um ihr GPT-Modell so zu trainieren, dass es diese und andere Fragen beantworten kann, musste die Gruppe jedoch ein grundlegendes Problem lösen: «GPT-3 kennt den grössten Teil der chemischen Fachliteratur nicht», erklärt Jablonka. «Die Antworten, die wir von diesem Modell erhalten, beschränken sich also üblicherweise auf das, was man auch in der Wikipedia finden kann.»

Stattdessen, so erklärt Jablonka weiter, habe die Gruppe GPT-3 mit einem Datensatz aus vergleichsweise wenigen Fragen und Antworten gezielt verbessert. «Wir haben also das Modell mit Fragen gefüttert – etwa nach lichtempfindlichen schaltbaren Molekülen, aber auch zur Löslichkeit bestimmter Moleküle in Wasser und anderen chemischen Aspekten – wobei wir bei unseren ,Lehrbeispielen‘ auch die jeweils zugehörige bekannte Antwort mit angegeben haben», führt er aus. So haben er und sein Team ein Sprachmodell erschaffen, das in der Lage ist, zu verschiedenen chemischen Problemstellungen korrekte Erkenntnisse zu liefern.

Schnell, akkurat und leicht zu benutzen

Anschliessend wurde das Modell getestet. «Die wissenschaftliche Frage nach einem durch Licht schaltbaren Molekül kann etwa so aussehen», verdeutlicht Jablonka: «Was ist die Wellenlänge des pi–pi*-Übergangs von CN1C(/N=N/ C2=CC=CC=C2)=C(C)C=C1C?» Da das Modell textbasiert ist, können keine Strukturformeln angegeben werden, erklärt er. «Aber unser GPT arbeitet gut mit den sogenannten SMILES-Codes für Moleküle, wie im oben genannten Beispiel», sagt er. «Aber auch andere Notationen erkennt es. Dazu gehören auch chemische Namen die der sogenannten IUPAC-Nomenklatur folgen, wie man sie vielleicht noch aus dem Chemie-Unterricht kennt», so Jablonka weiter.

In den Tests löste das Modell verschiedenste chemische Problemstellungen. Hierbei schnitt es oftmals sogar besser ab als ähnliche Modelle, die bisher in der Wissenschaft entwickelt und mit grossen Datenmengen trainiert wurden. «Das Entscheidende aber ist, dass unser GPT so einfach zu bedienen ist wie eine Literaturrecherche, die für viele chemische Probleme funktioniert – etwa zu Stoffeigenschaften wie die Löslichkeit, aber auch thermodynamische und photochemische Eigenschaften wie die Lösungsenthalpie oder die Interaktion mit Licht – und natürlich das chemische Reaktionsvermögen», ergänzt Prof. Dr. Berend Smit von der EPFL Lausanne.

Literatur

Kevin Maik Jablonka, Philippe Schwaller, Andres Ortega-Guerrero, Berend Smit: «Leveraging large language models for predictive chemistry», Nature Machine Intelligence 2023

EVENTS

IFAT

Weltleitmesse für Wasser-, Abwasser-, Abfall- und Rohstoffwirtschaft

Datum: 13.-17. Mai 2024

Ort: München (D)

drupa

Weltweit führende Fachmesse für Drucktechnologien

Datum: 28. Mai-07.Juni 2024

Ort: Düsseldorf (D)

ArbeitsSicherheit Schweiz

Fachmesse für Arbeitssicherheit, Gesundheitsschutz und Gesundheitsförderung am Arbeitsplatz

Datum: 05.-06. Juni 2024

Ort: Zürich (CH)

Achema

Internationale Leitmesse der Prozessindustrie

Datum: 10.-14. Juni 2024

Ort: Frankfurt am Main (D)

EPHJ-EPMT-SMT

Internationale Ausstellung für Uhrenindustrie, Mikrotechnologie und Medizinaltechnik

Datum: 11 – 14 Juni 2024

Ort: Genf (CH)

SENSOR + TEST

Internationale Fachmesse für Sensorik, Mess- und Prüftechnik

Datum: 11.-13. Juni 2024

Ort: Nürnberg (D)

all about automation

Fachmesse für Industrieautomation

Datum: 28.-29. August 2024

Ort: Zürich (CH)

maintenance Schweiz

Schweizer Fachmesse für industrielle Instandhaltung und Facility Management

Datum: 28.-29. August 2024

Ort: Zürich (CH)

Ilmac Lausanne

Networking. Forum. Aussteller

Datum: 18.-19. September 2024

Ort: Lausanne (CH)

FachPack

Europäische Fachmesse für Verpackung, Technik, Veredelung und Logistik

Datum: 24.-26. September 2024

Ort: Nürnberg (D)

W3+ Fair Jena

Europas führende Plattform für Forschung und Innovationskraft

Datum: 25.-26. September 2024

Ort: Jena (D)

Cleanzone

Internationale Fachmesse und Kongress für Reinraumtechnologie

Datum: 25.-26. September 2024

Ort: Frankfurt am Main (D)

Rehacare

Die REHACARE ist die internationale Fachmesse für Rehabilitation, Prävention, Inklusion und Pflege.

Datum: 25.-28. September 2024

Ort: Düsseldorf (D)

IN.STAND

Die Messe für Instandhaltung und Services

Datum: 08.-09. Oktober 2024

Ort: Stuttgart (D)

VISION

Weltleitmesse für Bildverarbeitung

Datum: 08.-10. Oktober 2024

Ort: Stuttgart (D)

IFAS

Fachmesse für den Gesundheitsmarkt

Datum: 22.-24. Oktober 2024

Ort: Zürich (CH)

ALL4PACK EMBALLAGE

The global marketplace for Packaging Processing Printing Handling

Datum: 04.-07. November 2024

Ort: Paris (F)

electronica

Weltleitmesse und Konferenz der Elektronik

Datum: 12.-15. November 2024

Ort: München (D)

SEMICON Europa

Europäische Leitmesse für Mikroelektronik

Datum: 12.-15. November 2024

Ort: München (D)

VALVE WORLD EXPO

Weltweite Leitmesse für Industrie-Armaturen

Datum: 03.-05. Dezember 2024

Ort: Düsseldorf (D)

LABVOLUTION

Europäische Fachmesse für innovative Laborausstattung und die Optimierung von Labor-Workflows

Datum: 20.-22. Mai 2025

Ort: Hannover (D)

Automatica

Die Leitmesse für intelligente Automation und Robotik

Datum: 24.-27. Juni 2025

Ort: München (D)

LASER World of PHOTONICS

Weltleitmesse und Kongressfür Komponenten, Systeme und Anwendungen der Photonik

Datum: 24.-27. Juni 2025

Ort: München (D)

SINDEX

Schweizer Messe für industrielle Automatisierung

Datum: 02.-04. September 2025

Ort: Bern (CH)

Ilmac

Fachmesse für Prozess- und Labortechnologie

Datum: 16.-18. September 2025

Ort: Basel (CH)

CMS Berlin

Internationale Leitmesse für Reinigung und Hygiene

Datum: 23.-26. September 2025

Ort: Berlin (D)

POWTECH

Pharma.Manufacturing.Excellence

Datum: 23. - 25. September 2025

Ort: Nürnberg (D)

A + A

Messe und Kongress für Arbeitsschutz und Arbeitssicherheit

Datum: 04.-07. November 2025

Ort: Düsseldorf (D)

AQUA Suisse

Die Schweizer Fachmesse für kommunales und industrielles Wassermanagement.

Datum: 26.-27. November 2025

Ort: Zürich (CH)

Pumps & Valves

Die Fachmesse für industrielle Pumpen, Armaturen & Prozesse

Datum: 26. - 27. November 2025

Ort: Zürich (CH)

interpack

Führende Messe für Prozesse und Verpackung

Datum: 07.-13. Mai 2026

Ort: Düsseldorf (D)

Bezugsquellenverzeichnis