Summer School “AI and Human Values” at the Marsilius Kolleg Heidelberg
From September 21–26, 2025, the interdisciplinary Summer School AI and Human Values took place at the Marsilius Kolleg of Heidelberg University. The event was organized as the Marsilius Academy 2025 in cooperation with the Heidelberg Center for Digital Humanities (HCDH). It was led by Dr. Maria Becker (Department of German Studies), supported by the organizing teams of the Marsilius Kolleg and co-hosted by CAEDHET. The Summer School was funded by Field of Focus III – Cultural Dynamics in Globalized Worlds within the framework of Heidelberg University’s Excellence Strategy, as well as by the Federal Ministry of Education and Research (BMBF) and the Ministry of Science, Research and the Arts of Baden-Württemberg.


Thematic Framework
The Summer School focused on the values transparency, trustworthiness, fairness, and sustainability in relation to artificial intelligence. Already in the introductory sessions, it became clear that these values often stand in tension with one another in practical applications. Discussions revolved around how such conflicts can be balanced and at which stages in the development of AI systems the decisions made exert the greatest societal impact.
Interdisciplinarity and Diversity of Perspectives
Participants came from various international study and research programs, contributing a broad range of disciplinary expertise. The humanities and cultural studies (e.g., philosophy, literary and media studies), the natural and life sciences (particularly medicine), the legal sciences, as well as technical and social science disciplines were represented.

This variiety of academic backgrounds brought together a wide spectrum of research interests and methodological approaches. The discussions revealed that all of these areas—sometimes unexpectedly—intersect with artificial intelligence. Whether dealing with questions of medical responsibility in the use of AI systems, the legal regulation of algorithmic decision-making, the representation of AI in literature and media, or ethical questions concerning the human–machine relationship, the engagement with normative values was always central. This demonstrated that reflection on AI cannot be confined to technical or purely philosophical contexts, but rather constitutes a genuinely interdisciplinary challenge.
Project Work
The Participants worked both individually and in groups on project ideas, which were presented in a poster session and final presentations. The projects reflected the diversity of disciplinary backgrounds and illustrated how heterogeneous the ethical challenges surrounding AI can be.
Below, there are several project groups listed that exemplify the range of topics explored:
- Responsible Human-Centered Research with Large Language Models
The presentation addressed how biases in training data emerge, how they can be mitigated, and what role transparency and data ethics play in the research process. It emphasized the responsibility of researchers in the development and application of large language models. - How to Assess and Address the Intransparency of LLMs
This talk focused on the structural opacity of large language models and the methodological challenges of assessing it. Various approaches to evaluation, interpretability strategies, and the tension between explainability and the performance of modern models were discussed. - AI in the Legal Process – Ethical and Normative Dimensions
The presentation examined the use of AI in legal contexts and explored how algorithmic decision-making may affect fundamental principles of the rule of law. It highlighted the tension between efficiency, transparency, and the right to a human decision. - Healing with Words – Large Language Models in Medicine
Drawing on concrete examples from medical research, the presentation illustrated how AI can support diagnostic and therapeutic processes — for instance, in radiology, pathology, or biomarker development. It showed that AI can serve as a tool to expand medical capacities without replacing professional responsibility. - Animism Normatively? Theological and Ethical Perspectives on AI
This contribution engaged with the question of how attributions of intentionality or “aliveness” to AI systems challenge anthropological and moral categories. The discussion connected theological reflection with contemporary approaches to the ethics of technology. - Anthropological Perspectives on AI and Animism
Finally, from a cultural and social anthropological viewpoint, the talk analyzed how different societies interpret the relationship between humans and technological artefacts. It demonstrated that discourses about AI often reproduce deeply rooted notions of consciousness, mind, and social relatedness.
Other contributions dealt with the use of language models in medical education, the development of chatbots for chronic illnesses, and approaches for therapeutic AI applications.
The following participants received a poster-award for their posters that were presented on the first day:
- Most Interdisciplinary Approach: Antonia Schlieder (LLM-Based Cues for Reasoning With Visualization and Text: Ethical Implications of Cognitive Offloading)
- Most Creative & Original Design: Anna Schultz-Coulon (AI and the Future of Learning: Rethinking Knowledge and Cooperative Learning)
- Most Informative & Intuitive Design: Rodrigo Bermudez Schettino (Hybrid Monitoring System for Chatbots: Continuous regression testing and real-time psychiatrist-in-the-loop evaluation for safer chatbot deployments)
Reflections and Outcomes
The concluding discussions emphasized several key aspects:
-
Inspiring atmosphere: Open and appreciative discussions that productively connected scientific and societal perspectives.
-
Interdisciplinary exchange: The dialogue between the humanities, natural sciences, life sciences, and law led to new insights and long-term connections.
-
Deepened reflection: The engagement with the ethical and normative dimensions of AI stimulated new research questions and avenues for thought.
-
Community and collaboration: The collegial working style and team spirit shaped the Summer School and fostered sustainable cooperation.
-
Optimistic perspective on AI: Many participants emphasized that, when used responsibly, AI holds significant potential for medicine, education, and science.
-
Lasting impact: The event left participants with the awareness that ethical reflection and interdisciplinary collaboration are crucial to fostering the positive societal effects of AI.

Conclusion
The Summer School AI and Human Values demonstrated in a concentrated form that the discussion of artificial intelligence cannot be confined to technical optimization but requires systematic embedding within normative and societal contexts. Guiding values such as transparency, fairness, trustworthiness, and sustainability proved not to be isolated goals but rather partially conflicting orientations whose relationships must be critically examined and balanced in a context-sensitive manner.
The diversity of participants underscored that AI has relevant intersections across nearly all disciplines. This interdisciplinary composition led to the insight that different perspectives not only reveal divergent problem areas but also generate shared normative questions that can only be adequately addressed through dialogue among various academic cultures.
A key outcome of the Summer School lies in the confirmation that the combination of technical expertise and ethical reflection is a necessary prerequisite for the responsible design of AI systems. This also highlighted the importance of interdisciplinary formats that foster exchange between different academic and societal fields, thereby contributing to the development of a reflective, values-oriented approach to artificial intelligence.
— German Version —
Vom 21-26. September 2025 fand am Marsilius-Kolleg der Universität Heidelberg die interdisziplinäre Summer School AI and Human Values statt. Die Veranstaltung wurde als Marsilius Academy 2025 in Kooperation mit dem Heidelberg Center for Digital Humanities (HCDH) organisiert (die Gruppe Critical AI Engineering and Educational Transfer (CAEDHET) fungierte als Co-Host). Federführend war Dr. Maria Becker (Germanistisches Seminar), unterstützt durch das Organisationsteam des Marsilius-Kollegs. Gefördert wurde die Summer School durch das Field of Focus III – Kulturelle Dynamiken in globalisierten Welten im Rahmen der Exzellenzstrategie der Universität Heidelberg sowie durch Mittel des Bundesministeriums für Bildung und Forschung (BMBF) und des Ministeriums für Wissenschaft, Forschung und Kunst Baden-Württemberg.
Thematischer Rahmen
Im Zentrum der Summer School standen die Werte Transparenz, Vertrauenswürdigkeit, Fairness und Nachhaltigkeit im Zusammenhang mit KI. Bereits in den einleitenden Sitzungen wurde deutlich, dass diese Werte in praktischen Anwendungen häufig in Spannung zueinander stehen. Diskutiert wurde, wie sich solche Konflikte austarieren lassen und an welchen Stellen im Entwicklungsprozess von KI-Systemen die getroffenen Entscheidungen den größten gesellschaftlichen Einfluss entfalten.

Interdisziplinarität und Diversität der Perspektiven
Die Teilnehmenden kamen aus unterschiedlichen internationalen Studien- und Forschungsprogrammen und brachten eine breite fachliche Expertise mit. Vertreten waren insbesondere die Geistes- und Kulturwissenschaften (z. B. Philosophie, Literatur- und Medienwissenschaft), die Natur- und Lebenswissenschaften (insbesondere Medizin), die Rechtswissenschaft sowie technische und sozialwissenschaftliche Disziplinen. Diese Varietät an akademischen Hintergründen führte dazu, dass eine große Bandbreite an Forschungsinteressen und methodischen Ansätzen zusammengeführt wurde. In den Diskussionen wurde deutlich, dass alle genannten Bereiche – teils unerwartet – Schnittstellen zur Künstlichen Intelligenz aufweisen. Ob es um Fragen nach ärztlicher Verantwortung im Umgang mit KI-Systemen, die rechtliche Regulierung algorithmischer Entscheidungsprozesse, die gesellschaftliche Repräsentation von KI in Literatur und Medien oder um ethische Grundfragen des Mensch–Maschine-Verhältnisses geht: Stets steht die Auseinandersetzung mit normativen Werten im Zentrum. Damit wurde sichtbar, dass die Reflexion über KI nicht auf technische oder rein philosophische Kontexte beschränkt ist, sondern sich als genuin interdisziplinäre Herausforderung erweist.

Projektarbeiten
Die Teilnehmenden arbeiteten sowohl in Einzelarbeit als auch in Gruppen an Projektideen, die in einer Postersession sowie in Abschlusspräsentationen vorgestellt wurden. Die Projekte spiegelten die Vielfalt der disziplinären Hintergründe wider und verdeutlichten, wie heterogen die ethischen Herausforderungen im Umgang mit KI sind.
Im Folgenden werden einige Projektgruppen skizziert, die stellvertretend für die Vielfalt der erarbeiteten Themen stehen:
-
Responsible Human-Centered Research with Large Language Models
Thematisiert wurde die Frage, wie Verzerrungen („Biases“) in Trainingsdaten entstehen, wie sich diese reduzieren lassen und welche Rolle Transparenz und Datenethik im Forschungsprozess spielen. Der Vortrag betonte die Verantwortung von Forschenden bei der Entwicklung und Anwendung großer Sprachmodelle. -
How to Assess and Address the Intransparency of LLMs
Im Zentrum stand die strukturelle Intransparenz großer Sprachmodelle und die Herausforderung, diese methodisch zu erfassen. Diskutiert wurden Evaluationsansätze, Interpretierbarkeitsstrategien und das Spannungsfeld zwischen Nachvollziehbarkeit und Leistungsfähigkeit moderner Modelle. -
AI in the Legal Process – Ethical and Normative Dimensions
Dieser Beitrag beleuchtete die Anwendung von KI im juristischen Kontext und untersuchte, inwiefern algorithmische Entscheidungsprozesse rechtsstaatliche Prinzipien berühren. Dabei wurde das Spannungsfeld zwischen Effizienz, Transparenz und dem Recht auf menschliche Entscheidung aufgezeigt. -
Healing with Words – Large Language Models in Medicine
Anhand konkreter Beispiele aus der medizinischen Forschung wurde gezeigt, wie KI Diagnose- und Therapieprozesse unterstützen kann – etwa in der Radiologie, Pathologie oder Biomarker-Entwicklung. Der Vortrag illustrierte, dass KI als Werkzeug zur Erweiterung ärztlicher Handlungsmöglichkeiten dienen kann, ohne die Verantwortung der Fachkräfte zu ersetzen. -
Animismus normativ? Theologische und ethische Perspektiven auf KI
Dieser Impuls setzte sich mit der Frage auseinander, inwiefern Zuschreibungen von Intentionalität und „Lebendigkeit“ an KI-Systeme anthropologische und moralische Kategorien herausfordern. Die Diskussion verband theologische Reflexion mit gegenwartsbezogener Technikethik. -
Anthropologische Perspektiven auf KI und Animismus
Abschließend wurde aus kultur- und sozialanthropologischer Sicht analysiert, wie unterschiedliche Gesellschaften das Verhältnis zwischen Mensch und technologischem Artefakt deuten. Dabei wurde gezeigt, dass Diskurse über KI oft tief verwurzelte Vorstellungen von Bewusstsein, Geist und sozialer Beziehung reproduzieren.
Weitere Impulse behandelten den Einsatz von Sprachmodellen in der medizinischen Lehre, die Entwicklung von Chatbots für chronische Erkrankungen sowie Ansätze für therapeutische KI-Anwendungen.

Als Gewinner:innen der Poster-Awards, die am ersten Tag vorgestellt wurden, gingen folgende Poster hervor:
- Most Interdisciplinary Approach: Antonia Schlieder (LLM-Based Cues for Reasoning With Visualization and Text: Ethical Implications of Cognitive Offloading)
- Most Creative & Original Design: Anna Schultz-Coulon (AI and the Future of Learning: Rethinking Knowledge and Cooperative Learning)
- Most Informative & Intuitive Design: Rodrigo Bermudez Schettino (Hybrid Monitoring System for Chatbots: Continuous regression testing and real-time psychiatrist-in-the-loop evaluation for safer chatbot deployments)
Reflexionen und Ergebnisse
In den Abschlussdiskussionen und Feebackrunden wurden zahlreiche positive Eindrücke hervorgehoben. Besonders betont wurden:
-
Inspirierende Atmosphäre: Offene und wertschätzende Diskussionen, die wissenschaftliche und gesellschaftliche Perspektiven produktiv verbanden.
-
Interdisziplinärer Austausch: Der Dialog zwischen Geistes-, Natur-, Lebens- und Rechtswissenschaften führte zu neuen Einsichten und langfristigen Kontakten.
-
Vertiefte Reflexion: Die Auseinandersetzung mit den ethischen und normativen Dimensionen von KI regte neue Forschungsfragen und Denkanstöße an.
-
Gemeinschaft und Zusammenarbeit: Die kollegiale Arbeitsweise und der Teamgeist prägten die Summer School und förderten nachhaltige Kooperationen.
-
Optimistische Perspektive auf KI: Viele Teilnehmende betonten, dass KI – wenn sie verantwortungsvoll eingesetzt wird – erhebliche Potenziale für Medizin, Bildung und Wissenschaft birgt.
-
Nachhaltiger Eindruck: Die Veranstaltung hinterließ bei allen Beteiligten das Bewusstsein, dass ethische Reflexion und interdisziplinäre Zusammenarbeit entscheidend sind, um die positiven gesellschaftlichen Wirkungen von KI zu fördern.

Fazit
Die Summer School AI and Human Values verdeutlichte in konzentrierter Form, dass die Diskussion über Künstliche Intelligenz nicht allein im Rahmen technischer Optimierung verortet werden kann, sondern einer systematischen Einbettung in normative und gesellschaftliche Kontexte bedarf. Leitwerte wie Transparenz, Fairness, Vertrauenswürdigkeit und Nachhaltigkeit erwiesen sich dabei nicht als isolierte Zielgrößen, sondern als partiell konfligierende Orientierungen, deren Verhältnis zueinander kritisch reflektiert und kontextsensitiv austariert werden muss. Die Diversität der Teilnehmenden machte deutlich, dass KI in nahezu allen Disziplinen relevante Schnittstellen aufweist. Gerade diese interdisziplinäre Zusammensetzung führte zu der Einsicht, dass unterschiedliche Perspektiven nicht nur divergierende Problemlagen sichtbar machen, sondern zugleich gemeinsame normative Grundfragen hervorbringen, die nur im Dialog verschiedener Fachkulturen adäquat bearbeitet werden können. Ein wesentliches Ergebnis der Summer School besteht in der Bestätigung, dass die Verknüpfung technischer Expertise mit ethischer Reflexionskompetenz eine notwendige Voraussetzung für eine verantwortungsbewusste Gestaltung von KI-Systemen darstellt. Damit wurde zugleich die Bedeutung interdisziplinärer Formate hervorgehoben, die den Austausch zwischen unterschiedlichen akademischen und gesellschaftlichen Feldern ermöglichen und so einen nachhaltigen Beitrag zur Entwicklung eines reflektierten, werteorientierten Umgangs mit Künstlicher Intelligenz leisten.
Photo Credits: Janine Dengler, Sophia Rüeck
OpenEdition schlägt Ihnen vor, diesen Beitrag wie folgt zu zitieren:
sophiarueeck (26. Oktober 2025). Summer School “AI and Human Values” at the Marsilius Kolleg Heidelberg. DH in HD . Abgerufen am 18. Februar 2026 von https://doi.org/10.58079/151fr





