Prísľub kolektívnej superinteligencie ľudí

Slovo superinteligencia označuje systémy umelej inteligencie, ktoré môžu čoskoro prekonať ľudské kognitívne schopnosti v širokom spektre úloh od logiky a uvažovania až po kreativitu a intuíciu. {{BANNER|SIMPLE_BANNER_HOMEPAGE_2}} Zatiaľ čo ešte pred niekoľkými rokmi to vyzeralo ako vzdialená možnosť, mnohí odborníci sa teraz domnievajú, že by to mohlo nastať za menej ako desať rokov. To vyvoláva značné obavy medzi tvorcami politík a vedcami, pretože existuje reálna možnosť, že vznikne umelá superinteligencia (artificial superintelligence – ASI), ktorá nebude zdieľať ľudské hodnoty, morálku, vnímanie a ciele. Niektorí vedci sa domnievajú, že riešením môže byť návrh systémov umelej inteligencie, ktoré sú v podstate v súlade s ľudskými hodnotami a záujmami. Napríklad spoločnosť Anthropic sa to snaží dosiahnuť pomocou metódy s názvom konštitučná AI, ktorá zavádza súbor pravidiel alebo zásad na riadenie správania. Open­AI má alternatívny prístup, ktorý nazýva Superalignment, a na ­riešen ...