Jesteście gotowi na kolejne ciekawostki ze świata sztucznej inteligencji? To już trzeci tydzień w Letniej Akademii OSE i nie zwalniamy tempa! Niezależnie od tego, czy właśnie pakujecie się na wakacje, odpoczywacie nad jeziorem czy zażywacie słonecznych kąpieli, możecie razem z nami uzupełnić wiedzę na temat technologii przyszłości, z którą mamy do czynienia już coraz częściej. Deepfake, manipulowanie głosem, wszystkowiedzące chatboty – czy musimy się ich bać…?

Nie daj się oszukać!

Jednym z budzących obecnie najwięcej kontrowersji aspektów SI jest deepfake, czyli technika manipulacyjna obrazów oraz materiałów wideo. Stosuje się ją w celu stworzenia równie realistycznego, co fałszywego materiału. Dzięki zaawansowanym algorytmom uczenia maszynowego coraz łatwiej i z coraz większą dokładnością można wygenerować obraz czy nagranie przedstawiające osoby do złudzenia podobne do swoich realnych odpowiedników. Takie możliwości stwarzają oczywiście wiele zagrożeń. Szczególnie często w sfabrykowanych treściach wykorzystywany jest wizerunek osób publicznych, co może wpływać negatywnie na ich reputację oraz bezpieczeństwo. Materiały generowane przez sztuczną inteligencję są już na tyle wiarygodne, że coraz trudniej je zweryfikowć. Dodatkowo tworzenie tego typu treści nie jest obecnie unormowane prawnie.

Niestety nie trzeba było długo czekać, by możliwość generowania fałszywych materiałów dostrzegli cyberprzestępcy. Coraz częściej słyszymy o wykorzystywaniu sfabrykowanych obrazów i wideo w ramach przestępstw typu sextortion, czyli wymuszeniach opierających się na groźbie publikacji lub udostępnienia intymnych, fałszywych treści. Wszelkie tego typu działania należy zgłaszać do CERT Polska!

Pozostaje pytanie: czy deepfake to wyłącznie zagrożenie? Na szczęście nie! Technika ta używana jest np. w branży filmowej. Już kilkakrotnie wykorzystanie sztucznej inteligencji pozwoliło na wiarygodne zakończenie filmu – było tak np. w przypadku ostatniej części „Gwiezdnych Wojen”.

Nowy sposób na wnuczka?

Kolejnym potencjalnie niepokojącym zjawiskiem realizowanym dzięki sztucznej inteligencji jest generowanie głosu. Zaawansowane możliwości pozwalają na tworzenie utworów, które brzmią jak wykonane i napisane przez konkretnych artystów. I tak za sprawą SI możemy usłyszeć nowy utwór zaśpiewany przez nieżyjącego już Freddiego Mercury’ego – brzmiący niezwykle wiarygodnie.

Także w tym przypadku oszuści są w stanie wykorzystywać zdobycze sztucznej inteligencji do niecnych celów. Bazując na ogólnodostępnych materiałach wideo, np. tych publikowanych w social mediach, z wykorzystaniem sztucznej inteligencji cyberprzestępcy potrafią wygenerować głos, który brzmi identycznie jak głos konkretnej osoby z Waszego otoczenia. To otwiera drzwi do różnych nadużyć, takich jak oszustwa telefoniczne, podszywanie się pod inne osoby czy szerzenie dezinformacji.

Oczywiście istnieją również pozytywne zastosowania tej technologii, takie jak asystenci głosowi czy udoskonalanie systemów automatycznego tłumaczenia, a także rozwiązania, które mogą okazać się rewolucyjne w branży filmowej czy lektorskiej. Konieczne jest jednak zrozumienie i świadomość potencjalnego ryzyka, które wiąże się z ich wykorzystaniem.

Rewolucja w dostępie do informacji czy droga na skróty?

Od czasów Turinga i jego słynnego testu marzeniem naukowców było stworzenie urządzenia, które potrafiłoby komunikować się z ludźmi. Dążenie do symulowania zwykłej ludzkiej rozmowy doprowadziło do wielu odkryć, ale żadne z nich nie jest równie przełomowe jak Chatbot GPT (ang. Generative Pre-trained Transformer), znany powszechnie jako ChatGPT. To sztuczna inteligencja, która sprawia, że komunikacja z komputerami stała się prosta i przystępna dla każdego. A jakie zagrożenia sam ChatGPT „dostrzega” w swoim działaniu? Przeczytajcie poniższy fragment wygenerowany przez tę sztuczną inteligencję:

ChatGPT, taki jak ten, z którego korzystamy obecnie, również budzi pewne obawy. Chociaż potrafi dostarczyć szybkich i wygodnych odpowiedzi na nasze pytania, jest ograniczony przez swoje źródło informacji i możliwości interpretacji kontekstu. To oznacza, że może być podatny na błędy, nieprawdziwe informacje i potencjalne wprowadzanie w błąd. Istnieje ryzyko, że niektórzy mogą wykorzystywać takie narzędzia do celów dezinformacyjnych lub wprowadzania w błąd innych osób.

Bać się czy nie bać?

Liczba rozwiązań, jakie obecnie oferuje nam SI, wydaje się wręcz nieskończona. Jednak zagrożenia, które wynikają z korzystania z jej zasobów również. Dlatego niezwykle istotna jest ciągła edukacja w tej dziedzinie. Świadomość potencjału i zagrożeń sztucznej inteligencji, wprowadzanie odpowiednich regulacji, które pomogą w zminimalizowaniu negatywnych skutków, stworzenie oprogramowania, odróżniającego prawdę od deepfake’a – mamy wiele do zrobienia!

Chcecie poznać bliżej sztuczną inteligencję? Zachęcamy Was do skorzystania z darmowych kursów dostępnych na OSE IT Szkole, dotyczących m.in. sieci neuronowych, uczenia maszynowego, praw robotów czy big data.

O SI moglibyśmy pisać jeszcze bardzo długo, ale w Letniej Akademii OSE czas już na zmianę tematu. W kolejny wtorek opowiemy Wam trochę więcej o phishingu, rozpoczynając tym samym segment dotyczący cyberbezpieczeństwa. Będziecie z nami?