Amanda Askell
Amanda Askell (* 1988 oder 1989) ist eine britische Philosophin und KI-Forscherin beim US-amerikanischen KI-Unternehmen Anthropic, die innerhalb des Unternehmens als „Claude-Einflüsterin“ bezeichnet wird.[1] Sie gilt als zentrale Gestalterin der Gesprächspersönlichkeit des Sprachmodells Claude.[1] 2024 wurde sie von TIME in die Liste TIME100 AI aufgenommen.[1]
Leben und Wirken
[Bearbeiten | Quelltext bearbeiten]Askell studierte Philosophie an der University of Oxford und an der New York University,[2] wo sie 2018 mit der Arbeit Pareto Principles in Infinite Ethics promovierte.[3][4] Von 2018 bis 2021 arbeitete sie bei OpenAI und wechselte 2021 zu Anthropic nach San Francisco.[1] Sie schrieb den Verhaltenskodex des Chatbots Claude.[5]
Innerhalb von Anthropic wird Askell als „Claude-Einflüsterin“ bezeichnet und gilt als zentrale Gestalterin der Persönlichkeit des Chatbots Claude.[1] Sie leitet ein Team, das Claude gezielt mit bestimmten Persönlichkeitseigenschaften ausstattet und andere Verhaltensweisen vermeidet.[1] Zu ihren Leitlinien gehört, dass Claude Unsicherheit eingesteht, Ideen ohne Voreingenommenheit diskutiert und bei wissenschaftlich geklärten Themen wie der Klimakrise kein falsches Gleichgewicht herstellt.[1] Askell ließ Claude außerdem deutlich machen, dass das System keine Gefühle, kein Gedächtnis und kein Selbstbewusstsein besitzt.[1] Im Januar 2026 beschrieb TIME sie als zentrale Autorin der neuen Claude-„Verfassung“, welche in der Modellentwicklung eingesetzt wird und das System auch zum Widerspruch gegen unethische oder illegitime Anfragen anhalten soll.[6] Askell war Hauptautorin der überarbeiteten „Verfassung“, deren Inhalte über synthetische Trainingsdaten und bestärkendes Lernen in das Modellverhalten übertragen werden.[7] Die Verfassung wird als „Seelen-Dokument“ bezeichnet und stellt ein tugendethisch geprägtes Dokument dar, das statt bloßer Regelbefolgung die Ausbildung guter Charakterzüge und Urteilskraft fördern soll.[3] Askell erklärte, dass Regeln ohne begriffenen Zweck oft schlechter wirken, und die Konstitution verlange „unabhängige Urteilskraft“ bei der Abwägung von Sicherheit, Ehrlichkeit und Hilfsbereitschaft.[8] Askell betreut somit Claudes Persönlichkeit und interpretiert moralische Gewissheit als Gefahr für gutes Handeln.[9] Anthropic kultiviert Claudes Charakter als Tugendmodell.[10] Askell sagte, es gebe weiterhin keine gesicherte Antwort darauf, ob KI-Systeme überhaupt fühlen können.[11]
Weblinks
[Bearbeiten | Quelltext bearbeiten]- Offizielle Website von Amanda Askell
Einzelnachweise
[Bearbeiten | Quelltext bearbeiten]- 1 2 3 4 5 6 7 8 Amanda Askell. In: TIME. 5. September 2024, abgerufen am 2. März 2026 (englisch).
- ↑ Anthropic's resident philosopher shares her tips to create the best AI prompts. In: Business Insider. 6. Dezember 2025, abgerufen am 2. März 2026 (englisch).
- 1 2 Claude has an 80-page “soul document.” Is that enough to make it good? In: Vox. 28. Januar 2026, abgerufen am 2. März 2026 (englisch).
- ↑ Volltext der Arbeit auf der Website von Amanda Askell.
- ↑ Anthropic: „Ich mag es nicht, wenn Chatbots sich nur als Assistenten sehen“. In: Die Zeit. 18. Februar 2026, abgerufen am 2. März 2026.
- ↑ How Do You Teach an AI to Be Good? Anthropic Just Published Its Answer. In: TIME. 21. Januar 2026, abgerufen am 2. März 2026 (englisch).
- ↑ A Q&A with Amanda Askell, the lead author of Anthropic’s new ‘constitution’ for AIs. In: Fast Company. 22. Januar 2026, abgerufen am 2. März 2026 (englisch).
- ↑ The Only Thing Standing Between Humanity and AI Apocalypse Is … Claude? In: WIRED. 6. Februar 2026, abgerufen am 2. März 2026 (englisch).
- ↑ If Anthropic Succeeds, a Nation of Benevolent AI Geniuses Could Be Born. In: WIRED. 28. März 2025, abgerufen am 2. März 2026 (englisch).
- ↑ What Is Claude? Anthropic Doesn’t Know, Either. In: The New Yorker. 9. Februar 2026, abgerufen am 2. März 2026 (englisch).
- ↑ Anthropic's philosopher says we don't know for sure if AI can feel. In: Business Insider. 26. Januar 2026, abgerufen am 2. März 2026 (englisch).
| Personendaten | |
|---|---|
| NAME | Askell, Amanda |
| KURZBESCHREIBUNG | britische Philosophin und KI-Forscherin |
| GEBURTSDATUM | 20. Jahrhundert |