Recent searches
Search options
Mir mangelt es an Diplomatie, aber diese Fülle an Vorträgen, die in reinem Techno-Solutionism Systeme abfeiern, die auf der großflächigen Ausbeutung von Mensch und Umwelt zur Profitmaximierung einiger weniger obszön reicher Männer basieren, die mit ihrem Plan u.a. auch die unabhängigen Wissenschaften abzuschaffen, nicht hinterm Berg halten, und dann im Nachsatz hinterher schieben, dass mensch das jetzt schon auch kritisch reflektieren müsse, sind ein deutliches Zeichen für das Scheitern (eher Versagen) der Geisteswissenschaften.
Wir nutzen doch auch keine Methoden, die auf dem Ausmessen kolonialer Körper durch Zwangsarbeiter_innen basieren, oder?
Dazu eine Nachricht vom heutigen Tage: Israel trainiert ein #LLM mit den abgehörten Alltagsgesprächen der palästinensischen Bevölkerung der besetzten Gebiete
https://www.972mag.com/israeli-intelligence-chatgpt-8200-surveillance-ai/
>According to one source, Unit 8200’s chatbot has been trained on 100 billion words of Arabic obtained in part through Israel’s large-scale surveillance of Palestinians under the rule of its military — which experts warn constitutes a severe violation of Palestinian rights. “We are talking about highly personal information, taken from people who are not suspected of any crime, to train a tool that could later help establish suspicion,” Zach Campbell, a senior technology researcher at Human Rights Watch, told +972, Local Call, and the Guardian.
Ein deutschsprachiger Bericht dazu im heutigen ND: https://www.nd-aktuell.de/artikel/1189579.neue-militaertechnologie-israel-trainiert-ki-system-mit-millionen-abgehoerter-gespraeche.html
@tillgrallert Korrekt, am Ende des Vortrags anzumerken, dass es ja auch ethische und ökologische Kriterien gebe, bedeutet eben nicht automatisch auch Konsequenzen daraus zu ziehen.
@konigans ich muss in diesem Kontext auch immer an Dürrenmatts „Die Physiker“ denken. Wissen wollen kann nicht die Methode rechtfertigen. The ends do NOT justify the means!
@konigans oder, wie es in „walk the line“ hieß
> God gave us a great big apple, see, and He said don't touch it. He didn't say touch it once in a while; He didn't say take a nibble when you're hungry; He said don't touch it! Don't think about touchin' it, don't sing about touchin' it, don't think about singin' about touchin' it!
genau, es muss halt mehr sein als ein wikrungsloser Disclaimer.
Und zum Grundsätzlichen: das wissenschaftlich/technisch interessante ist ja das Entstehen von emergenten "Fähigkeiten" und "Transfer Learning" beim Skalieren von (z.B.) Transformer Modellen. Das geht wohl nicht ohne negative Umwelteffekte, aber schonmal ohne Ausbeutung von Menschen. Wenn (!) wir uns einig sind, dass das nützlich ist, müssten wir vielleicht überlegen, doch eigene, öffentliche oder wissenschaftsgesteuerte Modelle möglichst umweltverträglich selbst zu bauen.
@anwagnerdreas @konigans genau. und dieser Prozess des gemeinsamen Nachdenkens um dann eine ethische Entscheidung treffen zu können, lässt sich eben nicht abkürzen.
@anwagnerdreas @konigans @tillgrallert andere Venues verlangen „ethical considerations“ bei der Einreichung, die ggf. auch nochmal separat „gereviewt“ werden (kein klassisches Review, anderer Prozess). Brauchen wir das auch?
@nilsreiter @anwagnerdreas @konigans klares „ja“ von meiner Seite!
@tillgrallert @nilsreiter @anwagnerdreas @konigans I would also say yes; without pointing fingers (and not having been able to join any further sessions after Wed because I had duties back home) it is clear that some contributions would have benefited from being asked to explicitly reconsider and address matters of ethics and values of research integrity
@dingemansemark @tillgrallert @nilsreiter @anwagnerdreas @konigans also "yes" - some kindly worded 'do you really want to do/use this' e.g. for only illustrative purposes would help a lot.
But ofc another kind of review brings again points of power imbalance etc. :/
@dingemansemark @tillgrallert @nilsreiter @anwagnerdreas @konigans I think some kind of "If you used machine-generated content, please describe the reasons for doing so" as part of the submission could be enough?
@nilsreiter @konigans @tillgrallert Oh ja, gute Idee.
@nilsreiter @anwagnerdreas @konigans @tillgrallert
Ja!
Meine Beschäftigung mit allen möglichen ethischen Dingen in letzter Zeit (von Data Feminism bis AI) ergibt, dass ohne institutionellen Druck einfach kein ausreichender Anreiz da ist, über Ethics-Washing, Green-Washing und Pink-Washing hinauszugehen.
Stay tuned for @ZfdG working paper zu Data Feminism!
#DHd2025 #datafeminism #greeningdh
@sarahalang @anwagnerdreas @konigans @tillgrallert @ZfdG Ich glaube die Herausforderung wird sein, das in einer Art zu machen, so dass es dann nicht einfach eine Liste von Checkboxen ist, die man abhakt.
@nilsreiter @anwagnerdreas @konigans @tillgrallert @ZfdG stimmt, aber mal eine Checkliste zu haben ist immerhin ein Anfang, der die Aufmerksamkeit auf das Thema lenkt - ich habe auch noch einen Beitrag in der Pipeline, wo ich u.a. praktische Umsetzungsideen, die hoffentlich dazu beitragen, es konkreter werden zu lassen 
#dataethics #datafeminism #DHd2025
@sarahalang @nilsreiter @anwagnerdreas @konigans @ZfdG
Checklisten haben den riesigen Vorteil, dass keine der Beteiligten im Nachhinein behaupten kann, es nicht gewusst zu haben!
@tillgrallert @sarahalang @anwagnerdreas @konigans @ZfdG Nicht so sicher. Wir sind gut darin, abzuhaken, dass wir AGBs gelesen haben, die wir nicht gelesen haben. Die Checkliste in der ACL https://aclrollingreview.org/responsibleNLPresearch/ führt m.E. vor allem zu Überforderung, und dann eben zu blindem Abhaken. Dann kann man es auch lassen.
@nilsreiter @tillgrallert @sarahalang @anwagnerdreas @ZfdG
In der ACL soll auf die Checkliste aber eine discussion folgen, die genau dieses blinde Abhaken entlarven *sollte*
@konigans @tillgrallert @sarahalang @anwagnerdreas @ZfdG Meines Wissens findet die Diskussion nur bei den Beiträgen statt, bei denen ein ethical issue markiert wird. Wenn blind abgehakt wird, dass alles super ist, gibt es keine Möglichkeit das in der Diskussion zu merken (das ist bei den Mengen ja auch gar nicht machbar).
@nilsreiter @tillgrallert @sarahalang @anwagnerdreas @ZfdG Fair, stimme dir auch zu, dass Checklisten alleine nicht die Lösung sein können. Checklisten müssen in einer DH-Community die sich gerne als offen und "einstiegsfreundlich" präsentiert aber nicht nur zu Verwirrung führen, sondern können auch Hilfestellung sein.
@konigans @tillgrallert @sarahalang @anwagnerdreas @ZfdG Ja, das sehe ich auch so. 
@sarahalang Sind die praktischen Umsetzungsideen in einer Form, die Du (privat) weitergeben kannst/möchtest? Das wäre super!
@nilsreiter ich schicke mal das Data Feminism Working Paper rüber, der Rest ist leider noch nicht lesbar (aber hoffentlich bald 
)