ON
← Nazaj na pregled
Quanta Magazine logo🏛️ Politika
United States🏛️ PolitikaSredinapred 3 dnevi

Ali pravilno razmišljamo o umetni inteligenci?

V članku se razpravlja o razpravi o tem, ali veliki jezikovni modeli (LLM), kot so tisti, ki se uporabljajo v AI, resnično razlagajo ali zgolj ustvarjajo besedilo, ki se zdi, da razlaga. Ta razlikovanje ima pomembne posledice za to, kako ocenimo zanesljivost AI, potrebe nadzora in potencialni vpliv. Melanie Mitchell, kognitivna znanstvenik na inštitutu Santa Fe, trdi, da so sedanje metode za merjenje strojnega kognitivnega znanja nezadostne in predlaga, da se AI obravnava kot "izvenzemeljska inteligenca", podobna preučevanju kognitivnega znanja v ne-človeških entitetih, kot so dojenčki in živali. Predlaga prilagoditev psiholoških raziskovalnih tehnik za boljše razumevanje notranjih procesov AI in opisuje šest načel za ocenje strojnega kognitivnega znanja. Razprava vključuje izzive pri interpretaciji vedenja AI, nedavne matematične dosežke, ki jih pomaga AI, in zgodovinske primere, kot je konj, ki opravlja matematiko iz zgodnjih 1900-ih, ki poudarjajo težave pri opredelitvi inteligence.

Njena perspektiva izziva konvencionalne predpostavke o tem, kako stroji obdelujejo informacije in ali njihovi izhodi odražajo resnično razumevanje ali zgolj prefinjeno prepoznavanje vzorcev.

Tradicionalna psihološka orodja, ki se uporabljajo za ocenjevanje inteligence pri ljudeh, kot so testi za reševanje problemov ali opazovanja vedenja, niso primerna za analizo notranjega delovanja AI. Ti modeli delujejo prek kompleksnih nevronskih omrežij, ki nimajo preglednosti, zaradi česar je težko ugotoviti, ali njihovi odzivi izvirajo iz dejanskega razumevanja ali algoritmičnega posnemanja.

Epizoda, objavljena 23. julija 2026, je nadaljevanje prejšnjega intervjuja z Mitchellom iz leta 2021, kmalu po začetku ChatGPT. V tistem času je Mitchell že izrazila zaskrbljenost zaradi vrzeli med človeško in strojno inteligenco.

Med intervjujem je Mitchell razpravljala o tem, kako bi raziskovalci lahko uporabili vpoglede iz razvojne psihologije za boljšo interpretacijo vedenja AI. Na primer, študije o tem, kako dojenčki pridobivajo jezik in rešujejo težave, bi lahko informirale strategije za ocenjevanje, ali se sistemi AI ukvarjajo z podobnimi procesi.

Mitchell je predlagala šest vodilnih načel za ocenjevanje strojne kognitivnosti, vključno z pomembnostjo preglednosti, ponovljivosti in usklajenosti z človeško podobnim razmišljanjem. Trdila je, da sistemi AI ostanejo nezanesljivi kot orodja za sprejemanje odločitev, dokler ti kriteriji niso izpolnjeni.

Med pogovorom je Mitchell poudarila, da izziv ne leži le v izboljšanju zmogljivosti umetne inteligence, temveč tudi v izboljšanju našega konceptualnega okvira za razumevanje same inteligence. Predlagala je, da lahko prizadevanje za ustvarjanje resnično inteligentnih strojev zahteva temeljni premik v tem, kako definiramo in merimo kognitivne sposobnosti. To vključuje ponovno razmišljanje o tradicionalnih merilih in sprejemanje interdisciplinarnih pristopov, ki integrirajo vpoglede iz nevroznanosti, filozofije in računalniške teorije.

Mitchell je zaključil epizodo z izražanjem optimizma glede prihodnjega napredka, hkrati pa je priznal zapletenost naloge, ki je pred nami.

Pojdite k primarnim virom (1)

Uradni viri, na katerih temelji poročanje. Preberite jih neposredno in se izognite uokvirjanju.

1 poročil

Quanta Magazine logoQuanta MagazineNeodvisenSredinaDejstva 85Objektivnost 78pred 3 dnevi
Ali pravilno razmišljamo o umetni inteligenci?

V članku se razpravlja o razpravi o tem, ali veliki jezikovni modeli (LLM), kot so tisti, ki se uporabljajo v AI, resnično razlagajo ali zgolj ustvarjajo besedilo, ki se zdi, da razlaga. Ta razlikovanje ima pomembne posledice za to, kako ocenimo zanesljivost AI, potrebe nadzora in potencialni vpliv. Melanie Mitchell, kognitivna znanstvenik na inštitutu Santa Fe, trdi, da so sedanje metode za merjenje strojnega kognitivnega znanja nezadostne in predlaga, da se AI obravnava kot "izvenzemeljska inteligenca", podobna preučevanju kognitivnega znanja v ne-človeških entitetih, kot so dojenčki in živali. Predlaga prilagoditev psiholoških raziskovalnih tehnik za boljše razumevanje notranjih procesov AI in opisuje šest načel za ocenje strojnega kognitivnega znanja. Razprava vključuje izzive pri interpretaciji vedenja AI, nedavne matematične dosežke, ki jih pomaga AI, in zgodovinske primere, kot je konj, ki opravlja matematiko iz zgodnjih 1900-ih, ki poudarjajo težave pri opredelitvi inteligence.

Ocena pristranskosti (Sredina): Članek predstavlja uravnoteženo raziskovanje kognitivnih zmožnosti umetne inteligence brez očitnega ideološkega nagibanja.

Zakaj dejstva (85): The article accurately represents Melanie Mitchell's arguments from the primary source document, discussing her views on AI intelligence and the challenges of measuring machine cognition. It references her work at the Santa Fe Institute and mentions her proposed six principles for assessing machine

Zakaj objektivnost (78): The article presents Mitchell's perspective in a balanced manner but includes some subjective language such as 'philosophical' and 'cautionary tale,' which may lean towards emphasizing the complexity and uncertainty around AI assessment. While not overtly biased, it frames the discussion around the

Kako je poročala vsaka stran

Isti dogodek, razvrščen po političnem nagibu medijev, ki so o njem poročali.

Kako je poročala vsaka stran

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Poročanje po svetu

Isti dogodek, kot so ga poročali v drugih državah.

Poročanje po svetu

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Preverjanje trditev

Ključne dejanske trditve in koliko virov jih potrjuje oz. zavrača.

Preverjanje trditev

Podprite neodvisne novice z zavedanjem pristranskosti in odklenite družbeni utrip, glasovanje skupnosti in vse druge funkcije za podpornike.

Postani podpornik

Ohranimo novice poštene.

ObjectiveNews financirajo bralci in je brez oglasov – pristranskost vam pokažemo, ne skrijemo. Podprite neodvisno novinarstvo za 4 €/mesec.

Postani podpornik

Povezane zgodbe