Summary (English – ~95 words):
White House advisor Michael Kratsios alleges Chinese company Moonshot copied Anthropic’s Fable LLM for its Kimi K3, using restricted Nvidia chips illegally. Kratsios calls this „industrial distillation“ to steal US technology. Treasury officials cite US model „watermarks“ in Chinese AI. AI experts, however, doubt simple „distillation“ could achieve Kimi K3’s advanced performance so quickly, given Fable’s recent release, arguing more complex techniques are required. While acknowledging distillation’s prevalence and Chinese AI competence, the chip allegations highlight export control violations and the need for data center „Know Your Customer“ rules.
Übersetzung (Deutsch – ~100 Wörter):
Michael Kratsios, Wissenschaftsberater des Weißen Hauses, wirft dem chinesischen Unternehmen Moonshot vor, Anthropic’s Fable LLM für sein Kimi K3 kopiert zu haben und dabei illegal exportbeschränkte Nvidia-Chips verwendet zu haben. Kratsios bezeichnet dies als „industrielle Destillation“, um US-Technologie zu stehlen. Finanzministerium-Vertreter verweisen auf „Wasserzeichen“ US-amerikanischer Modelle in chinesischer KI. KI-Experten bezweifeln jedoch, dass eine einfache „Destillation“ die fortschrittliche Leistung von Kimi K3 so schnell erreichen könnte, insbesondere angesichts der jüngsten Veröffentlichung von Fable, und argumentieren, dass komplexere Techniken erforderlich wären. Obwohl die Verbreitung der Destillation und die technische Kompetenz chinesischer KI-Teams anerkannt werden, unterstreichen die Chip-Anschuldigungen Verstöße gegen Exportkontrollen und die Notwendigkeit von „Know Your Customer“-Regeln für Rechenzentren.
Michael Kratsios, Wissenschaftsberater des Weißen Hauses, sagte, dass Moonshot, das chinesische Unternehmen hinter dem Kimi K3, dem größten verfügbaren offenen LLM, sein Modell durch das Kopieren des Fable LLM von Anthropic gebaut habe und dabei Chips verwendet habe, die nicht für den Export nach China zugelassen seien.
„Eine groß angelegte, verdeckte industrielle Destillation mit dem Ziel, proprietäre US-Technologie zu stehlen und die amerikanische Forschung zu untergraben, ist inakzeptabel“, sagte Kratsios schriebinmitten Berichten zufolge Diskussionen über das Verbot chinesischer Open-Weight-Modelle, die den KI-Sektor durcheinander gebracht haben. Moonshot antwortete nicht auf Fragen zu seinem Trainingsprozess und Kratsios teilte keine weiteren Details zu den Quellen seiner Anschuldigungen mit.
Kratsios‘ Tweet spiegelte die Bemerkungen von Finanzminister Scott Bessent wider, dass „wir auf vielen der chinesischen Modelle Wasserzeichen unserer großen US-amerikanischen Sprachmodelle finden, und das ist inakzeptabel.“ Es ist nicht klar, woraus diese Wasserzeichen bestehen, und das Finanzministerium antwortete nicht auf eine Anfrage.
Experten sind jedoch skeptisch, dass die Destillation – der Prozess der Abfrage eines LLM, um sein Innenleben zu bestimmen und seine Fähigkeiten zu kopieren – für die erweiterten Fähigkeiten verantwortlich ist, die Kimi K3 aufweist.
„Ich glaube nicht, dass man ein so starkes und so schnelles Modell bekommt, das Fable auf den Fersen ist und ausschließlich destilliert“, sagte Braden Hancock, Forscher am Laude Institute und Mitbegründer von Snorkel AI, gegenüber TechCrunch. „Es fehlt einfach die Zeit, oder? Fable ist erst seit dem 1. Juli öffentlich verfügbar. Man kann nicht so viele Daten destillieren, ein Modell trainieren und es in zwei Wochen veröffentlichen.“
„Ich bin der Meinung, dass die Destillation im Laufe der Zeit immer weniger wirkungsvoll geworden ist, je näher die chinesischen Modelle an die Grenze rücken und sich das Trainingsregime verschiebt [reinforcement learning]„, sagte Nathan Lambert, ein KI-Forscher am Allen Institute for AI, in einem Podcast gestern veröffentlicht. „[I]Wäre dies der Fall, wäre jeder leicht in der Lage, zu einem GLM oder einem K3 aufzuschließen, indem er seine Daten zur Destillation nutzt. Aber allein durch die überwachte Feinabstimmung haben wir das nicht erreicht oder werden es nicht sehen.“
Für die Durchführung der Destillation muss ein Labor sein Zielmodell systematisch abfragen, um Daten zu generieren, die für die Nachschulung verwendet werden können. Manchmal geht es dabei explizit darum, das Modell zu bitten, seine Gedankenkette zu artikulieren, um zu verstehen, wie es Probleme löst. In anderen Fällen werden die Eingabeaufforderungen und Antworten eines Modells verwendet, um ein neues Modell in einem Prozess zu trainieren, der Supervised Fine-Tuning oder SFT genannt wird.
Es ist dieser Feinabstimmungsprozess, der dazu führen kann, dass ein Modell angeblich von einem Dritten erstellt wurde, der behauptet, es sei Claude. Bei der Feinabstimmung lernt das Modell nach Lamberts Ansicht „seine Manieren“.
Lambert sagt jedoch, dass die Vorteile von SFT mit zunehmender Komplexität der Modelle an Bedeutung verlieren. Um Fable-ähnliche Fähigkeiten zu destillieren, wären wahrscheinlich verstärkte Lerntechniken erforderlich. In vielen Fällen bedeutet das, dass ein Agent des größeren Modells die Antworten des kleineren Modells bewertet und eine Anpassung basierend auf der Bewertung durchführt.
Die fortgeschritteneren Techniken erfordern auch eine umfangreichere Infrastruktur. Für große Reinforcement-Learning-Läufe können zig Millionen Agenten erforderlich sein. Die Verwendung der API eines Grenzlabors, um dies zu erreichen, „wäre wahnsinnig teuer und würde wahrscheinlich zu einem Zeitengpass führen, da diese Modelle ziemlich langsam sind und, um ehrlich zu sein, möglicherweise nicht einmal eine Leistungssteigerung bewirken.“
Es scheint wahrscheinlich, dass frühere Grenzmodelle zu Kimi beigetragen haben; Anthropisch öffentlich angeklagt Moonshot, DeepSeek und MiniMax haben ihre Modelle Anfang dieses Jahres systematisch destilliert. Anthropic sagte, es habe Millionen von Austauschvorgängen zwischen seinen Modellen und Benutzern entdeckt, die es bei diesen Unternehmen anhand von IP-Adressen und anderen Metadaten identifiziert habe. Diese Abfragen unterschieden sich „von normalen Nutzungsmustern und spiegelten eher eine bewusste Leistungsentnahme als eine legitime Nutzung wider.“ Anthropic antwortete nicht auf die Fragen von TechCrunch zur Fable-Destillation.
Allerdings wird die Destillation bei KI-Unternehmen als weit verbreitet angesehen, nicht nur in China. Elon Musk sagte Anfang des Jahres aus, dass sein Unternehmen SpaceXAI OpenAI-Modelle destilliert habe, um Grok zu entwickeln, und dass diese Praxis in der Branche üblich sei. Die Grenze zwischen Destillation und der Entwicklung synthetischer Datensätze kann beispielsweise ziemlich verschwommen sein.
„[I]„Im Allgemeinen unterschätzen die Amerikaner die technische Kompetenz dieser chinesischen Teams“, sagte Hancock. „Einer der Gründer von Moonshot war ein Doktorand der CMU. Das sind seriöse Forscher und Ingenieure, die solide Arbeit leisten. …wenn die amerikanischen Modelle zum Stillstand kommen würden, würde sich Chinas Fortschritt meiner Meinung nach zwar verlangsamen, aber dennoch anhalten. Sie reiten hier nicht nur Rockschöße.“
Es ist auch schwer, die Destillation aus dem zweiten Teil von Kratsios‘ Kommentar zu lösen – dass Moonshot fortschrittliche Nvidia-Chips, Grace Blackwell 300, erworben und auch auf mit GB300 ausgestattete Server in Thailand zugegriffen hatte. Laut Sam Bresnick, einem wissenschaftlichen Mitarbeiter am Center for Security and Emerging Technology in Georgetown, ist der Export dieser Chips nach China verboten, aber es gibt einen Schwarzmarkt. Im Mai wurde der Gründer von Supermicro, einem US-amerikanischen Serverhersteller, wegen Schmuggels moderner Chips nach China angeklagt.
„Ich bin ein Befürworter der „Know Your Customer“-Gesetze für Rechenzentren auf der ganzen Welt“, sagte Bresnick. „Wenn Sie ein Unternehmen große Schulungsläufe auf Ihrer hochmodernen Hardware durchführen lassen, muss ein Berichtsmechanismus darüber vorhanden sein, wer dieses Unternehmen ist und was es tut.“
Handelsministerium von Präsident Joe Biden vorgeschlagen Im Jahr 2024 sollen die bundesweiten „Know-Your-Customer“-Regeln für Rechenzentren eingeführt werden, aber unter Donald Trump scheint es keine weiteren Fortschritte gegeben zu haben. Exporteure versenden jedoch fortschrittliche Chips ins Ausland soll dafür sorgen Sie werden nur für genehmigte Zwecke verwendet.
Wenn Sie über Links in unseren Artikeln einkaufen, erhalten wir möglicherweise eine kleine Provision. Unsere redaktionelle Unabhängigkeit bleibt davon unberührt.
Hinweis: Externer Inhalt von https://techcrunch.com/2026/07/23/experts-say-exploiting-anthropics-fable-isnt-how-kimi-k3-got-so-good/. Rechte bei den jeweiligen Urhebern. » Mehr… » Melden
