handschellenforum.de Foren-Übersicht handschellenforum.de
Das Forum rund um Handschellen
 
 FAQFAQ   SuchenSuchen   MitgliederlisteMitgliederliste   BenutzergruppenBenutzergruppen   RegistrierenRegistrieren 
 ProfilProfil   Einloggen, um private Nachrichten zu lesenEinloggen, um private Nachrichten zu lesen   LoginLogin 
Adventskalender 2010

wenn algorithmen in der jury sitzen

 
Neues Thema eröffnen   Neue Antwort erstellen    handschellenforum.de Foren-Übersicht -> Offtopic
Vorheriges Thema anzeigen :: Nächstes Thema anzeigen  
Autor Nachricht
a.pst



Anmeldungsdatum: 30.04.2009
Beiträge: 486
Wohnort: bayern

BeitragVerfasst am: Di Jan 23, 2018 10:11 am    Titel: wenn algorithmen in der jury sitzen Antworten mit Zitat

ich fand die arbeit recht interessant…
den text belasse ich englisch, denn zum übersetzen ist das meine zu schlecht und so mag jeder für sich selber sorgen Smile

Zitat:
Abstract

Algorithms for predicting recidivism are commonly used to assess a criminal defendant’s likelihood of committing a crime. These predictions are used in pretrial, parole, and sentencing decisions. Proponents of these systems argue that big data and advanced machine learning make these analyses more accurate and less biased than humans. We show, however, that the widely used commercial risk assessment software COMPAS is no more accurate or fair than predictions made by people with little or no criminal justice expertise. We further show that a simple linear predictor provided with only two features is nearly equivalent to COMPAS with its 137 features.


http://advances.sciencemag.org/content/4/1/eaao5580
_________________
enfant terrible
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
MartinStgt



Anmeldungsdatum: 14.02.2010
Beiträge: 997

BeitragVerfasst am: Di Jan 23, 2018 12:45 pm    Titel: Antworten mit Zitat

Zu dem Thema hab' ich ein gutes Buch gelesen:

"Wahrscheinlich MORD" (Titel)
"Mathematik im Zeugenstand" (Untertitel)
"Warum Mathematik in den falschen Händen tödlich sein kann" (Rückseite)
von Coralie Colmez und Leila Schneps
Hanser Verlag

Etwas breit getreten die Geschichten und teils schwierig zu lesen, sind aber interessante und teils prominente Fälle, die die beiden da ansprechen. Es geht im Großen und Ganzen um Statistik-Irrtümer.

Schlimm genug, dass Politiker und Journalisten keine Ahnung von Statistik und Wahrscheinlichkeit haben und auch nicht haben wollen, weil dann festgefahrene Ansichten kippen könnten, sollten wenigstens Juristen mit Hochschulabschluss Grundkenntnisse davon haben. Das Abitur oder gar der Realschulabschluss - sofern man das verstanden hat - würde eventuell schon reichen.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
flx



Anmeldungsdatum: 14.03.2005
Beiträge: 455
Wohnort: Süd-Niedersachsen

BeitragVerfasst am: Di Jan 23, 2018 5:09 pm    Titel: Antworten mit Zitat

Ich sehe das Problem hier weniger in den fehlenden Grundkenntnissen von Juristen über Statistik, sondern in dem blinden Vertrauen, das die Öffentlichkeit oft "dem Computer" (oder neumodisch: "der App") und seinen Ergebnissen entgegenbringt.

Ergebnisse eines Computers unter Benutzung einer Datenbank können nicht besser sein als die Qualität der Eingabedaten und des letztlich von Menschen entwickelten Algorithmus. Ansonsten gilt: "trash in - trash out".

Vergleichbares Beispiel ist die Einschätzung der Kreditwürdigkeit von Menschen durch das "Scoring" der "Rating-Agenturen" wie Schufa, Creditreform, Bürgel und ähnliche. Das hat ja auch einen wichtigen Einfluß auf das ganze Leben der Menschen. Aber es werden dort nicht etwa nur harte und auf die einzelne Person bezogene Tatsachen (Einträge in öffentlichen Schuldnerverzeichnissen, persönliche Insolvenzen, Kontokündigungen wegen vertragswidrigen Verhaltens, unbestrittene oder rechtskräftig festgestellte unbeglichene Forderungen und ähnliches) verarbeitet. Vielmehr beruht die Einschätzung zum Teil auf reinen Spekulationen, beispielsweise aufgrund Alter, Geschlecht und Wohnadresse. Was da rauskommt, ist oft der reinste Unsinn.

Trotzdem wird diesem Verfahren Vertrauen entgegengebracht, obwohl die "Rating-Agenturen" ihren Algorithmus als Geschäftsgeheimnis hüten und keiner unabhängigen wissenschaftlichen Überprüfung unterziehen lassen. Eigenständig nachdenken und sich ein persönliches Urteil bilden tut der Bankmensch dann gar nicht mehr. Kommt ja "aus dem Computer". Crying or Very sad
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
Enris



Anmeldungsdatum: 31.08.2004
Beiträge: 6257
Wohnort: SWP

BeitragVerfasst am: Mi Jan 24, 2018 8:34 am    Titel: Antworten mit Zitat

Hallo auch,

ich bin da etwas hin- und hergerissen.

Ich bin in Ausbildung und Beruf schon öfter dem angeblichen Zitat eines Gefängnisdirektors begegnet:
Unbekannter Gefängnisdirektor hat folgendes geschrieben:
Die Hälfte meiner Insassen kann ich gehen lassen. Ich weiß nur nicht, welche Hälfte"

Wie ihr sicher wisst, sind in der deutschen Justiz (Rechtsprechung und Justizvollzug) die beiden Aspekte Schuld und Prognose für einerseits die Urteilszumessung und andererseits die Straffolgen (mit Konsequenzen über Freiheitsstrafe, Strafaussetzung, im Vollzug Freigang usw.) wichtig.

Lassen wir den Aspekt "Schuld" beiseite und beachten den Aspekt der "Prävention", also den Schutz der Gesellschaft vor weiteren Delikten des Straftäters, also die individuelle Prognose: Wird der Täter rückfällig? Ich blende auch mal den Hintergrund aus, dass jeder in unserer Gesellschaft unveräußerliche Freiheitsrechte genießt, indem ich das voraussetze.

Ich glaube nicht, dass man das Verhalten eines Menschen durch Algorithmen vollkommen voraussagen kann (Prognose), darum geht es ja nicht, sondern um eine Verbesserung der Aussage über eine Wahrscheinlichkeit (also Reliabilität). In der Justiz werden auf Basis qualifizierter Einschätzung solche Prognosen erstellt, die durchaus wissenschaftlich ausgewertet werden, jedoch letztlich auf empirischer Basis beruhen. D.h. wie häufig kommt es vor, dass ein Täter mit den Merkmalen X unter den Umständen Y rückfällig wird.

Wenn ihr einen Freund habt, die selten pünktlich ist, werdet ihr aufgrund eurer Erfahrung keine Pünktlichkeit erwarten. Allein deswegen werdet ihr aber nicht erwarten, dass er eure Steroanlage stiehlt. Ihr werdet aber dazu tendieren, gemeinsame Termine so zu legen, dass ihr in der Zeit liegt. Oder nicht mehr auf ihn warten und mit anderen ins Kino gehen.

Sei es aus Erfahrung oder aufgrund digitaler Daten wisst ihr, was zu erwarten ist. Aufgrund dieser Daten wisst ihr aber nicht, was abseits davon passieren kann. Irgendwann hat der unpünktliche Freund vielleicht doch den Fernseher mitgehen lassen. Davor warnen euch keine Daten (und wenn ihr jemandem misstraut, dürfte er kein Freund sein, dem ihr euren Schlüssel überlässt...).

Letztlich sind die Personen, die entscheiden müssen, auf Faustregeln, Heuristiken oder Wahrscheinlichkeitsrechnungen angewiesen, die - das ist durchaus möglich - auf ein auf Erfahrung beruhendes "Bauchgefühl" bauen. Gerade zur Erfahrung gehören auch gewisse Kombinationen von möglichen Delikten: Nehmt zwei Leute mit Straßenverkehrsgefährdung wegen Alkohol am Steuer. Der eine (bisher unauffällig) steckt in einer Lebenskrise und hat einen über den Durst getrunken. Der andere ist zwar nie im Straßenverkehr, aber schon wegen Randalen im Suff aufgefallen. Ist das für die Straffolgen das Gleiche?

Wir Bürger bekommen davon nur mit, wenn es mal schiefgegangen ist. Schlagzeilen wir "Freigänger schlägt wieder zu" oder "nach dem Knast erneut in den Knast" beunruhigen uns. Zu leicht allerdings tappen wir dann in die Pressefalle, wenn wir glauben informiert zu sein, nur weil wir eine Zeitung lesen. (Eine Zeitung schreibt z.B. nie, wenn ein Zug pünktlich ist, sondern nur, wenn er unpünktlich ist und sich deswegen Fahrgäste beschweren. Selbst wer täglich Zug fährt und nie unpünktlich angekommen ist, wird durch seine Zeitung auf die Idee kommen, seine Verbindung sei nicht zuverlässig).

Aufgrund solcher Mechanismen und tatsächlicher Unsicherheiten ist es nicht verkehrt, nach besseren Methoden zu suchen, um die Falscheinschätzung von Prognosen einer Tatrückfälligkeit zu minimieren.

Ein Algorithmus kann m.E. eine gute Hilfestellung sein, insbesondere wenn es an Fortbildungen fehlt (was in Deutschland unter "Gefängnispsychologen" ein Problem ist) oder keine entsprechende, auf Ausbildung und Lernen beruhende Erfahrung vorliegt.

Ich weiß nicht, wie vertraut ihr mit dem deutschen System von Strafzumessung und Strafvollzug seid. (Die spinnerten Hardliner spreche ich hier nicht an, da sie nicht erkennen, was ihnen blühen könnte.) Ich weiß nicht, wie mächtig diese Software COMPAS ist. Falls sie jedoch Tatumstände berücksichtigt, kann sie eine gute Hilfestellung sein - jedoch nicht mehr, um eine Gesamtwürdigung der Persönlichkeit, der Tatsituation um eine Rückfallwahrscheinlichkeit zu ergänzen. Ich glaube, vor allem hoffe ich jedoch nicht, dass eine Software ein - durchaus kritisierenswertes, letztlich aber vergleichsweise gerechtes - System wie das in Deutschland ersetzen wird.

Viele Grüße
Enris
_________________
2018
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden Website dieses Benutzers besuchen
QueeAndJiggy



Anmeldungsdatum: 10.07.2014
Beiträge: 1868
Wohnort: Salzburg

BeitragVerfasst am: Mi Jan 24, 2018 11:09 am    Titel: Antworten mit Zitat

flx hat folgendes geschrieben:
Ich sehe das Problem hier weniger in den fehlenden Grundkenntnissen von Juristen über Statistik, sondern in dem blinden Vertrauen, das die Öffentlichkeit oft "dem Computer" (oder neumodisch: "der App") und seinen Ergebnissen entgegenbringt.

Läßt sich recht treffend an junger "Öffentlichkeit" illustrieren, aufgewachsen mit PC und Internet.

Das Bild ist Bahnreisenden vertraut: ICE fährt ein, Fahrgäste klettern raus, laufen einige Schritte, halten inne, blicken auf bereitgehaltene Smartphones, ob denn die Richtung stimme. Am Salzburger Bahnhof gab es vor Weihnachten lustige Verirrungen japanischer Gäste, die zum Gleisende statt zu Treppen und Ausgang liefen. Offenbar war ihre App mit falschen Richtungsangaben gefüttert worden. Zuerst auf Schilder am Bahnsteig schauen? Fraglich, ob die Smiley-Generation richtungsweisende Piktogramme lesen kann und ohne Smartphone zum WC findet. Peinlich wäre, sollte auf dem Display erscheinen: No match found. Shit in your pants, please!
_________________
Be careful – enjoy life!
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden E-Mail senden Website dieses Benutzers besuchen
MartinStgt



Anmeldungsdatum: 14.02.2010
Beiträge: 997

BeitragVerfasst am: Mi Jan 24, 2018 12:22 pm    Titel: Antworten mit Zitat

flx hat folgendes geschrieben:
weniger in den fehlenden Grundkenntnissen von Juristen über Statistik

OK, ich habe mich geirrt, ich bin auf "likelihood of committing a crime" angesprungen. Bitte um Entschuldigung. Aber trotzdem kein Beinbruch, das wichtige Thema Fahrlässigkeit - bzw. Absicht - im Umgang mit Statistik nochmal angesprochen zu haben.

QueeAndJiggy hat folgendes geschrieben:
Das Bild ist Bahnreisenden vertraut

Mir ist da ein anderes Bild vertraut, passt auch irgendwie zu Statistik, und OT ist hier ja eh schon:

Kaum ausgestiegen, fährt jeder das Gestänge von seinem Rollköfferchen aus statt erstmal beiseite zu treten, um weiteren Aussteigern Platz zu machen, das benötigt zwei Sekunden, sodass das Aussteigen insgesamt entsprechend länger dauert, was für mich schon längst die Hauptursache der ganzen horrenden Verspätungen ist!

Und auf dem Bahnsteig dann mit oft starkem Personenaufkommen benötigt das Rollköfferchen mit - meist voll ausgefahrenem - Gestänge dann doppelt bis dreimal so viel Platz wie ein getragenes Behältnis. Zudem ist es so dicht am Boden schwer zu bemerken. Ich wundere mich schon lange, dass ich noch nie über so ein verfluchtes Ding gestolpert bin.

Ich habe auch so eins, aber im Bahnhof trage ich es.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
QueeAndJiggy



Anmeldungsdatum: 10.07.2014
Beiträge: 1868
Wohnort: Salzburg

BeitragVerfasst am: Mi Jan 24, 2018 3:27 pm    Titel: Smartphones als Falschmelder und störende Rollkoffer Antworten mit Zitat

QueeAndJiggy hat folgendes geschrieben:
Das Bild ist Bahnreisenden vertraut.

MartinStgt hat folgendes geschrieben:
Mir ist da ein anderes Bild vertraut, passt auch irgendwie zu Statistik ... Kaum ausgestiegen, fährt jeder das Gestänge von seinem Rollköfferchen aus ... statt ... weiteren Aussteigern Platz zu machen ... Ich habe auch so eins, aber im Bahnhof trage ich es.

Um Dir Platz zu bahnen, probier es mal mit locker am Rollköfferchen baumelnden Handschellen. Auf den zusammengequetschten Bahnsteigen von Stuttgart-21 wird es kaum jemand wahrnehmen können. Aber schon in Vaihingen/Enz oder Esslingen möchten die Leute ehrerbietig beiseite spritzen. Vor dem Hoheitsträger in spe. Laughing Tragen des Rollers in der Gewichtsklasse 15+ würde ich ohne Rücksicht auf Mitmenschlichkeit ablehnen. Intakte Bandscheiben sind mir wichtiger.
_________________
Be careful – enjoy life!
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden E-Mail senden Website dieses Benutzers besuchen
Andy58



Anmeldungsdatum: 23.07.2006
Beiträge: 3578
Wohnort: München

BeitragVerfasst am: Mi Jan 24, 2018 5:25 pm    Titel: Antworten mit Zitat

Hallo,
Algorithmen tun nur genau das, was der Entwickler damit mal vorausgesehen hat. Wenn Fehler vorhanden sind, auch noch falsch Rolling Eyes Bisher tut es sich die KI extrem schwer, mit neuen, unbekannten Situationen zurechtzukommen. Schon das erkennen von vorher unbekannten Bildinhalten ist extrem schwierig und es kommt bisher kaum mehr heraus als "das ist eine/ein Katze/Hund/Vogel/Haus/Auto..." mit zweistelliger Prozentzahl an Fehlerhäufigkeit. Sprachübersetzer kranken immer noch daran, daß sie den Inhalt des zu übersetzenden Textes nicht verstehen, dann kommt manchmal auch so etwas heraus wie "wenn große Stinke oder Leuchte, liegt unflätige gebroken an" bei einer Toasterbedienungsanleitung...

Wie soll da ein Algorithmus Recht sprechen können oder auch nur vernünftig beratend tätig sein? Und wie will man Urteile rechtfertigen, wenn die Software dann auch noch closed source ist wegen Geschäftsgeheimnis? Solange es keine Software gibt, der man z.B. eine Film-DVD als Input gibt und die ein vernünftigen Filmreview als Textfile als Output prodiziert, kann man eine Recht sprechende Software nicht ernst nehmen (passende Hardware hat fast jeder PC). Mehr als eine intelligente Datenbank oder Rechtsliteratur, die einen Menschen bei seiner Arbeit unterstützt, indem sie ihm zeitaufwendige Sucharbeit erleichtert und Beispielfälle sowie einzelne Statistikergebnisse auflisten kann, ist momentan wohl nicht drin.
_________________
Gruß
Andy

Leiter des Instituts für kulturhistorische Forschung, Fachbereich metallische Rückhalteeinrichtungen mit angeschlossener Manufaktur Wink
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden Website dieses Benutzers besuchen
nwjs



Anmeldungsdatum: 28.12.2012
Beiträge: 248
Wohnort: Berlin

BeitragVerfasst am: Mi Jan 24, 2018 10:20 pm    Titel: Re: Smartphones als Falschmelder und störende Rollkoffer Antworten mit Zitat

QueeAndJiggy hat folgendes geschrieben:
Um Dir Platz zu bahnen, probier es mal mit locker am Rollköfferchen baumelnden Handschellen.

Oder den schwarzen Handgepäckskoffer am Handgelenk festschellen. Dazu Ray Bans, einen teilnahmslosen Gesichtsausdruck und eine verdächtige Ausbeulung unterm Jackett des schwarzen Massanzugs. Am besten in Begleitung von zwei ähnlich freundlich wirkenden Begleitern.

Es muss ja keiner wissen, was tatsächlich in dem Koffer ist.
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden
QueeAndJiggy



Anmeldungsdatum: 10.07.2014
Beiträge: 1868
Wohnort: Salzburg

BeitragVerfasst am: Do Jan 25, 2018 9:07 am    Titel: Antworten mit Zitat

Andy58 hat folgendes geschrieben:
Sprachübersetzer kranken immer noch daran, daß sie den Inhalt des zu übersetzenden Textes nicht verstehen ...

Anders ausgedrückt – sie können nicht sinnerfassend lesen. Diese Leseschwäche ist nicht nur Maschinen eigen. Nach der PIAAC-Studie (PISA für Erwachsene) aus 2013 liest jeder sechste Deutsche wie ein Zehnjähriger. In Österreich jeder fünfte. In beiden Ländern besteht diesbezüglich eine starke Abhängigkeit zum Bildungsniveau im Elternhaus.
_________________
Be careful – enjoy life!
Nach oben
Benutzer-Profile anzeigen Private Nachricht senden E-Mail senden Website dieses Benutzers besuchen
Beiträge der letzten Zeit anzeigen:   
Neues Thema eröffnen   Neue Antwort erstellen    handschellenforum.de Foren-Übersicht -> Offtopic Alle Zeiten sind GMT + 1 Stunde
Seite 1 von 1

 
Gehe zu:  
Du kannst keine Beiträge in dieses Forum schreiben.
Du kannst auf Beiträge in diesem Forum nicht antworten.
Du kannst deine Beiträge in diesem Forum nicht bearbeiten.
Du kannst deine Beiträge in diesem Forum nicht löschen.
Du kannst an Umfragen in diesem Forum nicht mitmachen.


Datenschutzerklaerung und Impressum
Powered by phpBB 2.0.8 © 2001, 2002 phpBB Group