Anthropic bllokon përpjekjet për përdorimin e IA-së në armë biologjike

Kompania amerikane e inteligjencës artificiale Anthropic ka bërë të ditur se ka zbuluar dhe ndërprerë disa raste ku modeli i saj Claude ishte përdorur në mënyra që mund të ndihmonin në zhvillimin e armëve biologjike. Sipas raportit të kompanisë, studiuesit kishin anashkaluar kontrollet e vendosura dhe ishin përpjekur të maskonin qëllimin e kërkimeve të tyre.

Anthropic thekson se i njëjti informacion shkencor mund të përdoret si për qëllime të rrezikshme, ashtu edhe për qëllime të dobishme, si zhvillimi i vaksinave. Për këtë arsye, zbulimi i keqpërdorimit është veçanërisht i vështirë. Kompania ka bllokuar përdoruesit e dyshuar dhe ka përmirësuar sistemet e sigurisë, ndërsa ngjarja ka rritur shqetësimet për rreziqet e inteligjencës artificiale të avancuar.