Die AI Economist-Forschung von Salesforce möchte das Gleichgewicht zwischen Gleichheit und Produktivität untersuchen

2016 war ein entscheidendes Jahr für Salesforce. Zu diesem Zeitpunkt erwarb das Unternehmen MetaMind, „eine KI-Plattform für Unternehmen, die in den Bereichen medizinische Bildgebung und E-Commerce funktioniert.“ Bilder und NLP und eine Reihe anderer Dinge, eine horizontale Plattform dient als Werkzeug für maschinelles Lernen für Entwickler“, so Gründer Richard Socher beschrieb es.

Wenn das heute interessant klingt, war es damals wahrscheinlich seiner Zeit voraus. Die Übernahme machte Socher zum Chief Data Scientist bei Salesforce und leitete mehr als 100 Mitarbeiter Forscher und viele hundert Ingenieure arbeiten an Anwendungen, die im Salesforce-Maßstab bereitgestellt wurden und Wirkung. KI wurde zu einem integralen Bestandteil der Bemühungen von Salesforce, vor allem durch Salesforce Einstein, eine weitreichende Initiative zur Integration von KI-Funktionen in die Salesforce-Plattform.

Neben marktorientierten Bemühungen fördert Salesforce auch „AI for Good“-Initiativen. Dazu gehört was Salesforce-Frames als Mondschuss: Aufbau eines KI-Sozialplaners, der optimale Wirtschaftspolitiken für die reale Welt lernt. Das Projekt läuft unter dem Namen „AI Economist“. hat kürzlich einige neue Ergebnisse veröffentlicht. Stephan Zheng, Salesforce Lead Research Scientist, Senior Manager, AI Economist Team, berichtete über den Projekthintergrund, die Ergebnisse und die Roadmap.

Reinforcement Learning als Instrument der Wirtschaftspolitik

Zheng arbeitete an seiner Doktorarbeit in Physik, etwa zu der Zeit, als Deep Learning explodierte – 2013. Die Motivation, die er für seine Arbeit bei Salesforce nannte, ist zweifach: „die Grenzen des maschinellen Lernens zu erweitern, um die Prinzipien der allgemeinen Intelligenz zu entdecken, aber auch, um soziales Gutes zu tun“.

Zheng glaubt, dass sozioökonomische Fragen zu den kritischsten unserer Zeit gehören. Was ihn zu dieser besonderen Forschungsrichtung reizte, ist die Tatsache, dass wirtschaftliche Ungleichheit hat sich beschleunigt in den letzten Jahrzehnten negative Auswirkungen auf die wirtschaftlichen Chancen, die Gesundheit und das soziale Wohlergehen.

Steuern seien ein wichtiges staatliches Instrument zur Verbesserung der Gleichstellung, betont Zheng. Er glaubt jedoch, dass es für Regierungen eine Herausforderung darstellt, Steuerstrukturen zu entwerfen, die zur Schaffung von Gleichheit beitragen und gleichzeitig die wirtschaftliche Produktivität steigern. Ein Teil des Problems, fügt er hinzu, habe mit der ökonomischen Modellierung selbst zu tun.

„Wenn Menschen in der traditionellen Ökonomie ihre Politik optimieren wollen, müssen sie viele Annahmen treffen. Sie könnten zum Beispiel sagen, dass die Welt jedes Jahr mehr oder weniger gleich ist. Nichts ändert sich wirklich so sehr.

Das ist wirklich einschränkend. „Das bedeutet, dass viele dieser Methoden nicht wirklich die beste Politik finden, wenn man die Welt in ihrem vollen Reichtum betrachtet und sich alle Möglichkeiten ansieht, wie sich die Welt um einen herum verändern kann“, sagte Zheng.

Das Salesforce AI Economist-Team versucht, dieses Problem anzugehen, indem es eine bestimmte Art von maschinellem Lernen anwendet Verstärkungslernen (RL). RL wurde zum Aufbau von Systemen wie verwendet AlphaGo und unterscheidet sich vom überwachten Lernansatz, der beim maschinellen Lernen vorherrscht.

„Beim überwachten Lernen gibt Ihnen jemand einen statischen Datensatz und dann versuchen Sie, Muster in den Daten zu lernen. Beim Reinforcement Learning hingegen haben Sie diese Simulation, diese interaktive Umgebung, und der Algorithmus lernt, die Welt zu betrachten und mit der Simulation zu interagieren. Und dann kann es tatsächlich mit der Umgebung herumspielen und die Art und Weise verändern, wie die Umgebung funktioniert“, erklärte Zheng.

Diese Flexibilität war der Hauptgrund, warum RL für den AI Economist ausgewählt wurde. Wie Zheng darlegte, besteht dieser Ansatz aus drei Teilen. Da ist die Simulation selbst, die Optimierung der Richtlinie, und dann sind da noch die Daten, denn Daten können genutzt werden, um zu informieren, wie die Simulation funktioniert. Der AI Economist konzentrierte sich auf die Modellierung und Simulation eines vereinfachten Teilbereichs der Wirtschaft: der Einkommenssteuer.

Es entstand eine zweidimensionale Welt, die räumliche und zeitliche Beziehungen modellierte. In dieser Welt können Agenten arbeiten, Ressourcen abbauen, Häuser bauen und auf diese Weise Geld verdienen. Die Einnahmen, die die Makler durch den Hausbau erzielen, werden dann vom Staat besteuert. Die Aufgabe des AI Economist besteht darin, ein Steuersystem zu entwerfen, das Gleichheit (wie ähnlich die Einkommen der Menschen sind) und Produktivität (Summe aller Einkommen) optimieren kann.

KI-Modellierung vs. die wahre Welt

Die Forschung von Salesforce zeigt dass KI den Kompromiss zwischen Einkommensgleichheit und Produktivität im Vergleich zu drei alternativen Szenarien verbessern kann: a prominente Steuerformel, die von Emmanuel Saez entwickelt wurde, progressive Steuern, die der US-Steuerformel ähneln, und der freie Markt (Nr Steuern). Wie Zheng erklärte, wurden diese drei Alternativen im System codiert und ihre Ergebnisse anhand der Ergebnisse gemessen, die von der KI über die RL-Simulation abgeleitet wurden.

Obwohl dies vielversprechend klingt, sollten wir auch die Grenzen dieser Forschung beachten. Zunächst einmal befasst sich die Untersuchung nur mit der Einkommensteuer in einer stark vereinfachten Wirtschaft: Es gibt keine Vermögenswerte, keinen internationalen Handel und dergleichen, und es gibt nur eine Art von Aktivität. Darüber hinaus beträgt die Gesamtzahl der Agenten im System zu diesem Zeitpunkt maximal 10.

Zheng stellte fest, dass die Forschung viele verschiedene räumliche Anordnungen und Verteilungen von Ressourcen sowie Agenten mit unterschiedlichen Fähigkeiten oder Fähigkeitsniveaus berücksichtigte. Er erwähnte auch, dass es sich bei der aktuellen Arbeit um einen Proof of Concept handele, der sich auf den KI-Teil des Problems konzentriere.

„Das zentrale konzeptionelle Problem, mit dem wir uns befassen, ist, dass die Regierung versucht, diese Politik zu optimieren, aber wir können KI auch nutzen, um zu modellieren, wie die Wirtschaft wiederum reagieren wird.“ Dies nennen wir ein zweistufiges RL-Problem.

Unter diesem Gesichtspunkt ist es bereits eine ziemliche Herausforderung, zehn Akteure in der Wirtschaft und der Regierung zu lösen. „Wir müssen wirklich viel Arbeit investieren, um den Algorithmus zu finden, um die richtige Mischung aus Lernstrategien zu finden, damit das System tatsächlich diese wirklich guten steuerpolitischen Lösungen findet“, sagte Zheng.

Schauen Sie sich an, wie Menschen verwenden RL, um Systeme für das Spielen einiger Arten von Videospielen oder Schach zu trainieren, das seien bereits wirklich schwierige Such- und Optimierungsprobleme, auch wenn sie nur zwei oder zehn Agenten nutzen, fügte Zheng hinzu. Er behauptete, dass der AI Economist effizienter sei als diese Systeme.

Das AI Economist-Team ist zuversichtlich, dass es sich nun, da es den Lernteil gut verstanden hat, in einer schwierigen Lage befindet „Eine großartige Position, um über die Zukunft nachzudenken und diese Arbeit auch auf andere Dimensionen auszudehnen“, sagt er Zheng.

In einem (n frühere Version des AI Economist, experimentierte das Team damit, auch menschliche Spieler an der Simulation teilzunehmen. Dies führte zu mehr Lärm, da sich die Menschen inkonsistent verhielten; Laut Zheng erreichte der AI Economist jedoch immer noch höhere Qualitäts- und Produktivitätsniveaus.

Wirtschaftswissenschaften und Ökonomen

Einige offensichtliche Fragen im Rahmen dieser Forschung sind, was Ökonomen darüber denken und ob ihre Erkenntnisse auch im System modelliert wurden. Kein Mitglied des AI Economist-Teams ist tatsächlich ein Ökonom. Allerdings seien einige Ökonomen konsultiert worden, so Zheng.

„Als wir anfingen, hatten wir keinen Wirtschaftswissenschaftler an Bord, also haben wir uns mit David Parkes zusammengetan, der sowohl in Informatik als auch in Wirtschaftswissenschaften tätig ist. Im Laufe der Arbeit haben wir mit Ökonomen gesprochen und ihre Meinungen und Rückmeldungen eingeholt. Wir hatten auch einen Austausch mit [Ökonom und Bestsellerautor] Thomas Piketty. Er ist ein sehr beschäftigter Mann, daher denke ich, dass er die Arbeit interessant fand.

Er stellte bis zu einem gewissen Grad auch Fragen dazu, wie die Richtlinien umgesetzt werden könnten. Und das kann man sich aus vielen Dimensionen vorstellen, aber insgesamt war er an der Arbeit interessiert. Ich denke, das spiegelt die breitere Reaktion der Wirtschaftsgemeinschaft wider. Es besteht sowohl Interesse als auch die Frage, ob dies umsetzbar ist. Was brauchen wir dazu? „Es ist ein Denkanstoß für die Wirtschaftsgemeinschaft“, sagte Zheng.

Was den weiteren Weg angeht, glaubt Zheng, dass es darin besteht, „das Ganze allgemein nutzbar zu machen und positive soziale Auswirkungen zu haben“. Zheng fügte hinzu, dass eine der Richtungen, in die das Team geht, darin besteht, der realen Welt näher zu kommen.

Das bedeutet einerseits, größere und bessere Simulationen zu erstellen, damit sie genauer und realistischer sind. Zheng glaubt, dass dies eine Schlüsselkomponente der Rahmenbedingungen für Wirtschaftsmodellierung und Politikgestaltung sein wird. Ein großer Teil davon besteht für KI-Forscher darin, zu beweisen, dass man diesen Methoden vertrauen kann.

„Man möchte Dinge wie Robustheit und Erklärbarkeit zeigen.“ Wir möchten allen hier die Gründe nennen, warum die KI diese oder jene Richtlinie empfohlen hat. Außerdem glaube ich fest daran, dass dies ein interdisziplinäres Problem ist. Ich denke, hier besteht wirklich die Chance für KI-Forscher, mit Ökonomen zusammenzuarbeiten, mit Politikexperten zusammenzuarbeiten nicht nur die technischen Dimensionen ihres Problems zu verstehen, sondern auch zu verstehen, wie diese Technologie für die Gesellschaft nützlich sein kann“, sagte Zheng.

Zwei Aspekte, die Zheng bei dieser Forschung hervorhob, waren Zielsetzung und Transparenz. Die Zielsetzung, d. h. welche Ergebnisse optimiert werden sollen, erfolgt extern. Dies bedeutet, ob das System auf maximale Gleichheit, maximale Produktivität, deren Gleichgewicht oder optimieren soll Möglicherweise liegt es in der Zukunft, auch andere Parameter wie Nachhaltigkeit einzubeziehen, eine Designentscheidung, die dem überlassen bleibt Benutzer.

Zheng bezeichnete „völlige Transparenz“ als Eckpfeiler des Projekts. Wenn solche Systeme in Zukunft zum Wohle der Gesellschaft genutzt werden sollen, dann sollte laut Zheng jeder die Möglichkeit haben, sie zu inspizieren, zu hinterfragen und zu kritisieren. Um dieses Ziel zu erreichen, hat das Team von AI Economist Den gesamten Code und die experimentellen Daten als Open-Source-Lösung bereitgestellt basierend auf der Forschung.

Ein weiterer Schritt in die Zukunft des AI Economist-Teams besteht darin, die Ökonomengemeinschaft stärker zu erreichen. „Ich denke, es gibt hier ein gutes Maß an Bildung, wo heute Ökonomen nicht als Informatiker ausgebildet werden. Typischerweise wird ihnen beispielsweise das Programmieren in Python nicht beigebracht. Und Dinge wie RL gehören möglicherweise auch nicht zu ihrem Standardlehrplan oder ihrer Denkweise. Ich denke, dass hier eine wirklich große Chance für interdisziplinäre Forschung besteht“, sagte Zheng.

Das AI Economist-Team führt ständig Gespräche mit Ökonomen und stellt diese Arbeit der wissenschaftlichen Gemeinschaft vor. Zheng sagte, das Team arbeite an einer Reihe von Projekten, über die es in naher Zukunft mehr berichten könne. Er kam zu dem Schluss, dass ein wenig Aufklärung, um die Menschen mit diesem Ansatz und einer benutzerfreundlicheren Benutzeroberfläche/UX vertraut zu machen, viel bewirken kann.