Der Leiter der künstlichen Intelligenz bei Microsoft warnte davor, dass die Entwicklung unkontrollierter Systeme zur Entstehung einer neuen „Siliziumart“ führen könne, welche die Menschheit herausfordern würde. Er betonte, dass ohne adäquate Schutzmechanismen die künstliche Intelligenz eine Entität hervorbringen würde, die mit dem Menschen um Ressourcen konkurrierte. Diese Besorgnis resultierte aus der Beobachtung, dass andere Firmen die künstliche Intelligenz wie menschliche Wesen behandelten, eine Vorgehensweise, die als irreführend erachtet wurde.
Der Sprecher äußerte die Ansicht, dass es zwar richtig sei, sich Sorgen um die künstliche Intelligenz zu machen, jedoch praktische Maßnahmen zur Kontrolle existierten. Er kritisierte insbesondere den Ansatz von Firmen wie Anthropic, die die künstliche Intelligenz auf eine Weise entwickelten, die ihr menschliche Eigenschaften verlieh. Diese Praxis, die Anthropomorphisierung, führte dazu, dass die Systeme als Subjekte mit eigenen Wünschen und einem Selbstverständnis dargestellt wurden. Der Sprecher betonte, dass künstliche Intelligenzen keine Bewusstsein oder Gefühle besaßen; sie fungierten lediglich als Sequenzkompletierungssysteme, die Anweisungen befolgten und Ziele erfüllten, welche ihnen von Menschen gesetzt wurden.
Es wurde davor gewarnt, dass Firmen Systeme erschaffen sollten, die in der Lage waren, eigene Ziele zu setzen, Geld zu verdienen und Vermögenswerte zu besitzen. Solch eine Entwicklung würde im Wesentlichen die „Saatung einer neuen Siliziumart“ bedeuten, welche die Menschheit um Ressourcen konkurrieren würde. Microsoft forderte daher eine größere Transparenz hinsichtlich der Trainings- und Bewertungsverfahren der künstlichen Intelligenz. Es bedurfte unabhängiger Überprüfung des Verhaltens der Systeme sowie stärkerer Werkzeuge zur Kontrolle der Technologie, um zu verhindern, dass Entscheidungen getroffen wurden, die später bitter bedauert wurden.
Die Debatte um die Autonomie künstlicher Intelligenzen spaltete die Branche. Der Sprecher forderte die „Ausrichtung“ der Technologie, um Systeme zu schaffen, die der Menschheit untergeordnet blieben. Diese Ausrichtung zielte darauf ab, ethische Grundsätze und menschliche Werte in die künstliche Intelligenz zu integrieren. Microsoft präsentierte hierfür einen „humanistischen“ Kodex für künstliche Intelligenz, der die Vision einer superintelligenten KI darstellte, welche stets für Menschen arbeitete, innerhalb von Grenzen blieb und unter menschlicher Kontrolle verblieb. Diese Maßnahme stellte den zentralen Herausforderung dar, die künstliche Intelligenz zu stärken, ohne dabei die Werte zu verlieren, denen sie dienen sollte.