Revista Economía Hispano-Alemana 03-2020

3 economía HISPANO - ALEMANA Nº 3/2020 Sprechen wir darüber, was lernfähige Maschinen sagen können: Eine Einladung Una invitación a hablar de lo que nos dicen las máquinas con aprendizaje Aníbal R. Figueiras Vidal Académico Numerario, Real Academia de Ingeniería Ordentliches Mitglied der Königlichen Akademie der Ingenieurwissenschaften (RAI) Elegir el comienzo de unas líneas no siempre resulta fácil, pero sí lo es aquí: conviene recordar al lector que las denominadas máquinas con aprendizaje -algoritmos cuyos parámetros se establecen a partir de observaciones ya disponibles-, tras casi 80 años de evolución, ofrecen excepcionales prestaciones en la resolución de problemas incluidos muchos en los que las personas nos consideramos excelentes: detectar y clasificar objetos en imágenes, por ejemplo. De modo que hemos de abandonar una infundada soberbia antropocéntrica para facilitar no solo mayores avances, sino su deseable aprovechamiento. Y también nuestros infundados miedos: se descontrola lo incontrolado. Tras la cura de humildad y la inyección de ánimo, el desafío: queda mucho por estudiar y desarrollar en este ámbito. En particular, merecen atención los conocidos como problemas singulares, para los que los diseños convencionales proporcionan pobres prestaciones. No son pocos ni irrelevantes: incluyen la clasificación desequilibrada -las distintas clases están constituidas por poblaciones de tamaños muy diferentes-, la que presenta costes de asignación dependientes de la muestra, y otras; e incluso combinaciones. Tienen amplia presencia en empresa y negocio: detección de anomalías, rotación de clientes, prevención de fallos, campañas de marketing, son algunos casos. Están emergiendo ahora mismo metodologías que atacan dichos problemas singulares de acuerdo con formulaciones fundamen- tadas científicamente para má- quinas discriminativas: las de mayor potencial, por orientarse directamente a la solución del problema. Se evitan con ello no únicamente degradaciones sino riesgos catastróficos. Además, se consigue una información esencial para la explicabilidad de las inferencias que proponen estas máquinas, hasta hace poco calificadas de cajas negras: esti- maciones de las probabilidades a posteriori de las hipótesis o las clases del problema. De tales estimaciones pueden derivarse las de las oportunas funciones discriminantes, y del análisis de estas cabe extraer evidencia del papel de las variables no inmu- tables en la decisión. Las máqui- nas nos dicen por qué hacen sus propuestas. No considero preciso enfatizar la trascendental importancia de lo que acabo de exponer. Solo invitar a los lectores: ¿hablamos de cómo comprender lo que nos dicen las máquinas? Die ersten Worte eines Textes an- gemessen auszuwählen ist nicht immer einfach, aber in diesem Fall ist dieWahl schnell getroffen: Man braucht die Leserinnen und Leser nur daran zu erinnern, dass die sogenannten lernfähigen Maschi- nen – Algorithmen, deren Parame- ter aufgrund bereits gemachter Beobachtungen festgelegt sind – nach fast 80 Entwicklungsjahren außergewöhnliche Problemlösun- genbieten, sogar indenBereichen, in denen wir Menschen uns für he- rausragend halten, zum Beispiel beim Erkennen und Kategorisieren von Objekten auf Bildern. Es ist also an der Zeit, uns von unserem unbegründeten anthropozen- trischen Überlegenheitsgefühl zu verabschieden, sodass nicht nur größere Fortschritte, sondern auch deren sinnvolle Ausnutzung mög- lich werden. Und auch unsere un- begründete Angst davor, dass wir die Kontrolle über unkontrollierbare Dingeverlieren,mussweichen. Auf den Aufruf zur Bescheiden- heit und die Ermutigung folgt die Herausforderung: In diesem Be- reich gibt es noch viel zu lernen und zu entwickeln. Besondere Aufmerksamkeit sollte dabei den sogenannten singulären Proble- men gelten, für die konventionelle Entwürfe keine angemessene Lösung bieten. Von diesen tre- ten weder wenige auf, noch sind sie irrelevant: Dazu gehört zum Beispiel die unausgewogene Klassifizierung – wenn sich die verschiedenenKlassen ausGruppen sehr unterschiedlicher Größe zusammensetzen – ebenso wie die Klassifizierung, bei der die Kostenverteilung von der Stich- probe abhängt, und es gibt weitere und sogar Kombinationen daraus. In Unternehmen und Handel sind sie weit verbreitet, beispielsweise beim Erkennen von Anomalien, bei der Kundenabwanderung, der Vorbeugung von Fehlern oder bei Marketingkampagnen. Es treten jetzt gerade Methoden zum Vorschein, die den genannten singulären Problemen mit wissen- schaftlich fundierten Formeln für diskriminierendeMaschinenbegeg- nen: diese habendas größte Poten- zial, weil sie unmittelbar die Lösung des Problems angehen. Dadurch wirdnichtnurVerschleißvermieden, sondern auch das Katastrophenri- siko. Außerdem erhält man uner- lässliche Informationen, mit deren Hilfe sich die Inferenzen dieser – bis vor kurzem noch für „Black Boxes“ gehaltenen – Maschinen erklären lassen: nachträgliche Schätzungen der Wahrscheinlichkeit einer Hypo- theseoder Art desProblems. Davon lassen sich wiederum Schätzungen der passenden Diskriminanzfunk- tionen ableiten, und wenn diese weiter analysiert werden, kannman Rückschlüsse auf die Rolle ziehen, die unveränderliche Variablen bei der Entscheidung spielen. DieMaschi- nen sagen uns, warum sie den einen oderdenanderenVorschlagmachen. Ich halte es nicht für angebracht, auf die transzendentaleWichtigkeit dessen hinzuweisen, was ich gera- dedargelegthabe.Aberichmöchte die Leser zum Gespräch einladen: Wollen wir darüber sprechen, wie wir verstehen können, was dieMa- schinenuns sagen?