Das Start-up Anthropic erhält mit 580 Millionen US-Dollar Forschungsgeldern einen Betrag in Rekordhöhe. Wie es sich damit für mehr KI-Sicherheit einsetzen will.
Einem Artikel von Heise Online zufolge haben Investoren über eine Milliarde Euro an Antrophic, ein Start-up im Bereich KI-Sicherheit, gespendet. Das Geschäftsanliegen des Unternehmens: Steuerbare, erklärbare und widerstandsfähige KI-Systeme. So soll der Einsatz von künstlicher Intelligenz an menschliche Werte und Bedürfnisse angepasst und regelmäßig kontrollierbar gemacht werden. Wie der englische Begriff „Explainable AI“ schon vermuten lässt, geht es darum, Techniken der KI nachvollziehbarer zu machen.
Explainable AI hilft gegen Verzerrungen
Viele KI-Systeme werden dafür kritisiert, sich unfair zu verhalten. Der Grund dafür: eine verzerrte Datengrundlage mit verschiedenen Gewichtungen. Das möchte Anthropic ändern. Das Start-up besteht aktuell aus dem Mitgründer und CEO Dario Amodei sowie einem Team von rund 40 Mitarbeiter:innen in San Francisco. Gemeinsam wollen sie transparent machen, welche Ursachen es für Sicherheitsprobleme in großen neuronalen Netzen gibt. Mittlerweile steht ihnen ein Finanzierungskapital von 704 Millionen US-Dollar zur Verfügung. Die Investoren sind jedoch keine klassischen Deep-Tech-Geldgeber:innen, sondern unter anderem Jaan Tallin, der estnische Entwickler von Skype, sowie Sam Bankman-Fried, der CEO von FTX, einer Handelsplattform für Kryptowährungen auf den Bahamas.
Bitte beachten Sie
Die Beiträge in der Rubrik "Trends und Innovationen" sind Inhalte unseres Medienpartners Vogel Communications Group GmbH & Co. KG. Sie spiegeln nicht unbedingt die Meinung von DATEV wider.
Vogel Communications Group
