Anthropic CEO presentéiert Plang fir d'Entwécklung vun der KI ze verlangsamen
Den Dario Amodei huet d'Industrie grad gefrot, ... méi lues ze ginn. Net ze stoppen. Tempo. Laangen Essay, dräi Schrëtt, an eng Warnung datt rekursiv Selbstverbesserung scho méi séier kacht wéi d'Erwuessener se iwwerpréife kënnen.
Anthropic invitéiert unilateral integréiert Evaluatoren an d'Gebai - Badges, Schreifdëscher, Laptops, an d'Recht, Resultater ouni PR-Filter ze publizéieren. Dann wëll hien demokratesch Labore fir d'Sécherheetsnormen ze koordinéieren. Dann, iergendwéi, en Deal mat autoritäre Regierungen. Einfach um Pabeier. Schwiereg iwwerall soss.
Hie seet ëmmer nach, datt KI e Wonner kéint sinn. Hie seet och, datt e méi kapabelen, falsch ausgeriichte Schwarm den Internet mat engem persistenten Botnetz kéint iwwerhuelen an Honnerte vu Milliarden u Schued verursaachen. Déi zwou Sätz stinn niewenteneen a passen net zesummen.
Oh - an hie wëll eng enk Antitrust-Ausnam, sou datt d'Sécherheetsgespréicher selwer kee juristescht Problem sinn. D'Bremsen kommen mat Pabeieren. Natierlech.
De Sam Altman bestätegt, datt OpenAI dëst Joer net un d'Bourse geet, a seet, datt e Börsengang elo zu engem "onverständleche Moment" géif kommen, wéinst de Bedenken iwwer d'Sécherheet vun der KI
Den Altman huet sech fir en exklusivt Interview gesat an de Börsenkalenner ofgebrach. En IPO elo grad, sot hien, wier e "onverstännege Moment". D'Sécherheetsaarbecht ass nach net fäerdeg. D'Ausriichtung ass nach net fäerdeg. D'Gesellschaft ass nach net prett. Wéi se hien ënner Drock gesat hunn - net dëst Joer.
D'Banker ware schonn do. Déi vertraulech Dokumenter existéieren. Elo seet de CEO, si hätten als éischt vill ze dinn, dorënner erauszefannen, wéi Industrie a Regierungen iwwerhaapt zesumme schaffen. Hie kléngt bal erliichtert ze waarden.
Hie sot och, datt et "absolut" méiglech ass, KI ausserhalb vun der mënschlecher Kontroll ze bauen - duerno huet hie versprach, datt hie géif d'Training ënnerbriechen, wann dat de Wee ass. Couragéiert. Och praktesch, vläicht. Méiglecherweis béides. Dee Gewaltverméigen/Gewënnverméigen-Knuet, huet hien argumentéiert, existéiert, fir datt si Entscheedunge kënne treffen, déi net offensichtlech am Intressi vun den Aktionäre sinn. Mir wäerten gesinn, ob dëse Saz de Kontakt mat engem aktuellen Prospekt iwwerlieft.
De Sam Altman vun OpenAI higewisen op e Pakt mat aneren KI-Firmen fir Sécherheetsrisiken unzegoen
Dat selwecht Interview, aner Iwwerschrëft, an dëst hei ass d'Flüstern. Sech mam Amodei, Musk an Demis Hassabis zesummenzesetzen ass den nächste Schrëtt. Altman: hie mengt, datt dat geschéie wäert. Hie wäert keng privat Gespréicher am Viraus ukënnegen. Dann huet hien se am Fong schonn am Viraus ugekënnegt.
E katastrophale Risiko am zweistellege Beräich ass net akzeptabel, sot hien. Déi nach net verëffentlecht Modeller si scho sou fäeg, datt et sech recklos fillt, weider ze fueren ouni eng besser Iwwerwaachungsméiglechkeet. E richtege Pakt an eng virsiichteg geleakt Atmosphär kënnen vun baussen identesch ausgesinn.
D'Mataarbechter haten intern schonn eng Versioun dovunner héieren. Ëffentlech ass et ëmmer nach Niwwel. Wann et sou wäit kënnt, super. Wann net, huet d'Zitat trotzdem geklappt.
De Sam Altman ënnerstëtzt den Opruff vum Dario Amodei fir méi lues ze ginn, a seet, datt OpenAI datselwecht maache wäert
Stonne nom Essay huet den Altman gepost, datt OpenAI dem Versprieche vum Embedded Evaluator entsprécht. Zougang wéi dee vun engem Mataarbechter. Méi gëtt et geschwënn. De Musk huet dräi Wierder geschriwwen: "Den Dario huet Recht." Dräi rivaliséierend CEOs. Ee Slogan. Onroueg Weekendenergie.
Koordinatioun an Theater kënne zesumme reesen. Déi éischt Sprang vum Amodei sengem Plang huet elo zwee vun de gréissten Labore virun der Ëffentlechkeet zum Nicken bruecht. Hugging Face - jo, dat Hugging Face - huet gefrot, ob si beim Evaluatiounsprogramm matmaache kéint, an huet eppes mam Numm Open Alignment Initiative gestart. Transparenz vun de Leit, déi gehackt goufen. Poetesch, oder ugedeit.
Europa, fir wat et wäert ass, huet keen, deen déi US-amerikanesch Ausnam verlaange kann. Bréissel huet schonn zënter laanger Zäit opgehalen, individuell Ausnamen ze verdeelen. Also ass den Handdrück amerikanesch. De Rescht vun der Landkaart ass… d'Schëlleren zécken.
OpenAI wëll just gewannen
Mathematiker sinn no engem Weekend voller Interviewen net a feierlecher Stëmmung. Den Navier-Stokes Sprint vun OpenAI - ongeféier zéngdausend Agenten, Zéngmilliounen Dollar u Rechenkäschten, aachtanzwanzeg Stonnen - gesäit aus wéi eng Trophäejuegd aus dem Feld eraus. Mathematiker wëllen Abléck. De Laboratoire, soen se ëmmer erëm, wëll gewannen.
Den Tristan Buckmaster huet hinne gesot, datt OpenAI onlimitéiert Rechenzäit an eleng Autorerecht ubitt, wann hie säi Mataarbechter mat Anthropic-Affiliatioune géif fale loossen. Hie sot et eng Bestiechung. Hie sot nee. OpenAI seet kategoresch, datt seng Codex-Ufroen de System net hätten beaflosse kënnen. Hie ass net iwwerzeegt. Den Andreas Thom freet sech ëmmer nach, ob ChatGPT iwwer seng eegen Aarbecht de Modell gefiddert huet, deen spéider drop opgebaut huet. Nëmmen d'Firma géif et wëssen. Hie verdächtegt, datt si et net emol wëssen.
An dann de Knackpunkt: OpenAI seet, datt et scho wesentlech Fortschrëtter bei engem anere Millenniumpräisproblem gemaach huet. Dee bleift onbenannt. Clay brauch souwisou nach eng laang Zäit fir d'Akzeptanz vun der Gemeinschaft. Also huet nach keen "gewonnen". Si sinn einfach schonn um nächsten amgaang. Séiss.
FAQ
Wat ass de Plang vum Anthropic CEO Dario Amodei fir d'Entwécklung vun der KI ze beschleunegen?
Den Amodei huet en laangen Essay publizéiert, an deem hien d'Industrie opgefuerdert huet, méi lues ze ginn - net ze stoppen - well rekursiv Selbstverbesserung méi séier virukënnt wéi Auditeure mathale kënnen. Den éischte Schrëtt ass d'unilateral Invitatioun vun integréierte Bewäerter an Anthropic mat Badges, Schreifdëscher, Laptops an dem Recht, Resultater ouni PR-Filter ze publizéieren. Duerno wëll hien, datt demokratesch Labore Sécherheetsnormen koordinéieren a schliisslech eng Form vun engem Deal mat autoritäre Regierungen. Hie wëll och eng enk Kartellverzichtserklärung, fir datt Sécherheetsgespréicher selwer kee juristescht Problem sinn.
Firwat huet de Sam Altman gesot, datt OpenAI dëst Joer net op en IPO geet?
An engem exklusiven Interview sot den Altman, datt en IPO elo e schlecht berodenen Zäitpunkt wier, well d'Aarbecht un der Sécherheet, d'Ausriichtung an d'gesellschaftlech Virbereedung nach net ofgeschloss ass. Wéi hien ugefrot gouf, huet hien bestätegt, datt et dëst Joer net de Fall wier, obwuel Banker ronderëm wieren an et eng vertraulech Dokumentatioun gëtt. Hie sot, datt d'Non-Profit-Struktur existéiert, sou datt OpenAI Entscheedunge maache kann, déi net offensichtlech am Intressi vun den Aktionären sinn. Hie sot och, datt et absolut méiglech ass, KI iwwer d'mënschlech Kontroll eraus opzebauen, a versprach, datt hien d'Ausbildung ënnerbriechen géif, wann dat de Wee wier.
Huet den Altman op e Sécherheetspakt mat aneren KI-Laboren higewisen?
Am selwechten Interview sot den Altman, hie mengt, datt et zu engem Treffen mat Kollegen wéi dem Amodei, dem Musk an dem Demis Hassabis kënnt, awer hie wollt keng privat Gespréicher am Viraus ukënnegen. Hie sot, datt e katastrophale Risiko am Zweistellegste net akzeptabel ass an datt nach net verëffentlecht Modeller scho sou fäeg sinn, weiderzefueren ouni eng besser Iwwerwaachungsméiglechkeet, datt et sech recklos fillt. D'Mataarbechter hätten intern schonn eng Versioun dovunner héieren, sou datt d'ëffentlech Kommentarer eng Virschau vun der Koordinatioun kéinte sinn anstatt e fäerdege Pakt ze bestätegen.
Wäert OpenAI dem Versprieche vun Anthropic fir en embedded Evaluator gerecht ginn?
Stonnen nom Amodei sengem Essay huet den Altman gepost, datt OpenAI dem Versprieche vum Embedded-Evaluator mat engem Mataarbechterähnlechen Zougang a geschwënn méi Detailer gläichmaache wäert. Den Elon Musk schreift, datt den Dario Recht huet, andeems hien dräi rivaliséierend CEOs op e ähnleche Slogan gesat huet. Hugging Face huet gefrot, ob si dem Evaluatorprogramm matmaache kéinten, an huet eng Open Alignment Initiative gestart. Europa kann net déiselwecht US-amerikanesch Kartellverzichtserklärung ubidden, déi Amodei virgestallt huet, dofir ass den Handdrück fir de Moment haaptsächlech amerikanesch.
Firwat kritiséiere Mathematiker den Navier-Stokes Sprint vun OpenAI?
Mathematiker beschreiwen den ongeféier zéngdausend Agenten an aachtanzwanzeg Stonne laangen Navier-Stokes-Laf vun OpenAI als eng Trophäejuegd, déi de Gewënn iwwer d'Abléck prioritär behandelt. Den Tristan Buckmaster sot, datt OpenAI onlimitéiert Rechenzäit an eenzeg Autorerecht ubitt, wann hien en Anthropic-affiliéierte Mataarbechter fale léisst; hien huet et eng Bestiechung genannt a refuséiert. OpenAI seet, datt seng Codex-Ufroen de System net hätten beaflosse kënnen, awer hie bleift net iwwerzeegt. Den Andreas Thom freet weider, ob ChatGPT iwwer seng eegen Aarbecht geschwat huet, de spéidere Modellfortschrëtt bäigedroen huet.
Huet OpenAI Fortschrëtter bei engem anere Millenniumpräis-Problem behaapt?
OpenAI seet, et hätt scho substantiell Fortschrëtter bei engem anere Millennium-Präis-Problem gemaach, awer et wëll net nennen, wéi ee vun hinnen. Den Clay Mathematics Institute brauch nach ëmmer eng laang Zäit fir d'Akzeptanz vun der Gemeinschaft, dofir huet nach keen offiziell gewonnen. Am Feld liest sech dës Geheimhaltung zesumme mam fréiere Navier-Stokes-Rennen als Laboe, déi schonn ëm den nächsten Trophée sprinten. D'Verge-Interviewe stellen d'Spannung als Mathematiker duer, déi Abléck wëllen, während OpenAI gewannen wëll.