Členovia predstavenstva OpenAI reagujú na varovanie bývalých členov. Bret Taylor a Larry Summers tvrdia, že spoločnosť je lídrom v oblasti bezpečnosti a schopností. Helen Toner a Tasha McCauley, ktoré odišli z predstavenstva Open ai po tom, čo sa v novembri minulého roka rozhodli zvrátiť kurz nahradenia Sama Altmana, generálneho riaditeľa, ponúkli pripomienky k regulácii umelej inteligencie (AI) a udalostiam na Open AI.

OpenAI reagujú na varovanie bývalých členov

Neakceptujeme tvrdenia pani Tonerovej a pani McCauleyovej týkajúce sa udalostí na Open ai. Po požiadaní bývalého predstavenstva (vrátane pani Tonerovej a pani McCauleyovej), aby sme pôsobili v novom predstavenstve, prvým krokom, ktorý sme urobili, bolo objednanie externého preskúmania udalostí, ktoré viedli k nútenej rezignácii pána Altmana.

Predsedali sme špeciálnemu výboru zriadenému predstavenstvom a previerku viedla prestížna právnická firma WilmerHale. Uskutočnila desiatky rozhovorov s členmi predchádzajúcej rady Open ai (vrátane pani tonerovej a pani mccauleyovej), vedúcimi pracovníkmi open ai, poradcami predchádzajúcej rady a ďalšími príslušnými svedkami; skontroloval viac ako 30 000 dokumentov; a hodnotili rôzne firemné akcie. Pani Tonerová aj pani McCauleyová poskytli dostatok podnetov k preskúmaniu, ktoré sme dôkladne zvážili, keď sme dospeli k našim úsudkom.

Zistenia preskúmania odmietli myšlienku, že akékoľvek obavy o bezpečnosť ai si vyžadujú výmenu pána Altmana. V skutočnosti WilmerHale zistil, že „predchádzajúce rozhodnutie predstavenstva nevzniklo z obáv týkajúcich sa bezpečnosti alebo zabezpečenia produktov, tempa vývoja, financií Open ai alebo jej vyhlásení pre investorov, zákazníkov alebo obchodných partnerov“.

Okrem toho za šesť mesiacov takmer každodenného kontaktu so spoločnosťou sme zistili, že pán Altman je veľmi ústretový vo všetkých relevantných otázkach a dôsledne kolegiálny voči svojmu manažérskemu tímu. Ľutujeme, že pani Tonerová pokračuje v prehodnocovaní problémov, ktoré dôkladne preskúmala kontrola pod vedením WilmerHale, a nie vpred.

Pani Tonerová pokračovala vo svojich tvrdeniach v tlači. Aj keď je teraz možno ťažké si zapamätať, Open ai vydala Chat gpt v novembri 2022 ako výskumný projekt, aby sa dozvedela viac o tom, aké užitočné sú jej modely v konverzačných prostrediach. Bol postavený na gpt -3.5, existujúcom modeli ai , ktorý bol v tom čase dostupný už viac ako osem mesiacov.

To znamená, že zdieľame názor pani Tonerovej a pani McCauleyovej a spoločnosť a pán Altman neustále tvrdili, že vývoj ai predstavuje významný vývoj v histórii ľudstva. V demokratických spoločnostiach je nevyhnutná zodpovednosť voči vláde a vládne regulácie.

Otvorená ai viedla diskusie s vládnymi predstaviteľmi z celého sveta o mnohých problémoch a spoločnosť podporuje účinnú reguláciu umelej všeobecnej inteligencie alebo agi – ai , ktorá by vo väčšine intelektuálnych úloh prekonala ľudí – ako sa vyvíja. Pán Altman vyzval zákonodarcov, aby regulovali ai . „ Myslíme si, že regulačné zásahy vlád budú rozhodujúce na zmiernenie rizík čoraz silnejších modelov,“ povedal vo svojom úvodnom prejave pred podvýborom pre súdnictvo Senátu v máji 2023.

Open ai a ďalšie popredné ai laboratóriá prijali súbor dobrovoľných záväzkov voči Bielemu domu, aby posilnili bezpečnosť, zabezpečenie a dôveryhodnosť technológií a služieb ai . Okrem toho je pán Altman členom rady pre bezpečnosť a zabezpečenie umelej inteligencie amerického ministerstva vnútornej bezpečnosti, ktorá bude radiť ministerstvu, zainteresovaným stranám zo súkromného sektora a verejnosti, ako bezpečne vyvíjať a nasadzovať technológiu AI v celej Amerike a to aj v jej kritickej infraštruktúre.

Pozeráme sa dopredu a nie dozadu. Predstavenstvo sa buduje nedávnym prírastkom troch nových členov s rozsiahlymi odbornými znalosťami v oblasti vedúcich globálnych organizácií a orientácie v zložitých regulačných prostrediach a so skúsenosťami v oblasti technológií, riadenia neziskových organizácií a správy predstavenstva.

Nové predstavenstvo prijalo dôležité vylepšenia riadiacej štruktúry Open ai, takže predstavenstvo môže efektívnejšie dohliadať na rast firmy a plniť poslanie Open ai zabezpečiť, aby agi prinášalo úžitok celému ľudstvu. Tieto zlepšenia zahŕňajú jasnejšie usmernenia pre riadenie a silnejšiu politiku konfliktu záujmov.

Na veľkom summite ai v Soule sa spoločnosť Open ai a niekoľko ďalších spoločností dohodli na prijatí ďalších záväzkov v oblasti bezpečnosti ai. Zaviazali sa tiež zverejniť bezpečnostné rámce, ako je rámec pripravenosti, ktorý minulý rok prijala Open ai a ktorý je navrhnutý tak, aby odstránil medzery vo vedeckej štúdii o katastrofických rizikách ai.

Otvorená umelá inteligencia s podporou predstavenstva je hrdá na to, že vytvára a vydáva modely, ktoré sú špičkou v odvetví z hľadiska schopností aj bezpečnosti. Spoločnosť v tom bude pokračovať. Ako sme už uviedli, „Uvedomujeme si veľkosť našej úlohy pri riadení transformačných technológií pre globálne dobro.