Nowa generacja systemów AI
Rafe Pilling z Secureworks przedstawił system sztucznej inteligencji, który może dzwonić i reagować na reakcje rozmówcy, doskonale imitując ludzki głos. Zdolność systemów do szybkiego wdrażania takich konwersacyjnych AI może wpłynąć na poprawę wydajności i skali różnych operacji, stawiając pytanie o potencjalne zagrożenia. Z obawą patrzymy na możliwość wykorzystania deepfakes audio, czyli zaawansowanych fałszywych głosów generowanych przez sztuczną inteligencję, w celu wpływania na wyniki demokratycznych wyborów. Zdolność tych technologii do manipulowania faktami stawia pod znakiem zapytania uczciwość demokratycznych procesów wyborczych.
Manipulacje z użyciem technologii deepfake audio
Lorena Martinez z Logically Facts, zajmującej się przeciwdziałaniem dezinformacji, podkreśla trudność weryfikacji deepfake audio w porównaniu do obrazów AI. Ostrzega przed zagrożeniem dla nadchodzących wyborów, a Komisja Wyborcza w Wielkiej Brytanii rozważa działania mające na celu zrozumienie i przeciwdziałanie tym nowym wyzwaniom.
Ben Jacob, który pokazał możliwości technologii generowania wiarygodnych kopii głosów, wzywa do zastanowienia się nad potencjalnymi szkodami, zanim technologie te zostaną wprowadzone. W obliczu zbliżających się wyborów na całym świecie, potrzebna jest większa ostrożność oraz działania firm mediów społecznościowych, aby wzmocnić zespoły walczące z dezinformacją.
Źródło: BBC, Ego - Man
