ChatGPT i DeepSeek zniekształcają dane naukowe.

Udowodniono, że modele sztucznej inteligencji, takie jak ChatGPT i DeepSeek, mogą zniekształcać treści naukowe podczas ich podsumowywania, zwłaszcza w dziedzinie medycyny.

Báo Khoa học và Đời sống•08/07/2025

Grupa badaczy z Niemiec wydała niedawno ostrzeżenie dotyczące potencjalnego błędu wynikającego z wykorzystywania chatbotów opartych na sztucznej inteligencji do skracania treści badań. Po przeanalizowaniu 4900 streszczeń naukowych napisanych przez ludzi, grupa wykorzystała różne modele sztucznej inteligencji, aby porównać sposób, w jaki te systemy przetwarzają informacje. Wyniki pokazały, że większość chatbotów popełniała błąd nadmiernego uogólniania, nawet gdy proszono je o dokładne podsumowanie.

Sztuczna inteligencja może łatwo zniekształcić treść podsumowań badań naukowych.

W eksperymentach modele sztucznej inteligencji popełniały pięć razy więcej błędów niż badacze-ludzie, gdy pozostawały bez nadzoru. Nawet przy jasno określonych wymogach dotyczących dokładności, wskaźnik błędów był nadal dwukrotnie wyższy niż w przypadku standardowego podsumowania. Jeden z członków zespołu badawczego skomentował: „Uogólnianie może czasami wydawać się nieszkodliwe, ale w rzeczywistości zmienia charakter pierwotnych badań. To błąd systemowy”.

Co ciekawe, nowsze wersje chatbotów nie tylko nie rozwiązują problemu, ale wręcz go pogłębiają. Dzięki płynnej i angażującej komunikacji, generowane przez sztuczną inteligencję podsumowania łatwo sprawiają wrażenie wiarygodnych, podczas gdy ich rzeczywista treść jest zniekształcona. W jednym przypadku DeepSeek zmienił frazę „bezpieczne i skuteczne wdrożeniowe” na „bezpieczne i skuteczne leczenie” – interpretację odbiegającą od pierwotnych wniosków z badania.

Może ci się spodobać

Viettel udostępnia dane ze świata rzeczywistego konkurującym zespołom opracowującym rozwiązania z zakresu sztucznej inteligencji.2 lipca Wietnamska Wojskowa Grupa Telekomunikacyjna (Viettel) zainaugurowała konkurs Viettel AI Race 2026. Najważniejszym punktem tegorocznej rywalizacji jest to, że wybitne zespoły będą miały dostęp do rzeczywistych danych, będą współpracować bezpośrednio z ekspertami i rozwiązywać problemy stojące przed produkcją i działalnością biznesową Viettel.

Od rezolucji 57/NQ-TW do powstania ekosystemu sztucznej inteligencji „Make in Vietnam”.Rezolucja 57/NQ-TW stawia sobie za cel, aby do roku 2030 Wietnam znalazł się w pierwszej trójce państw Azji Południowo-Wschodniej pod względem badań i rozwoju w dziedzinie sztucznej inteligencji.

NASA pomyślnie przetestowała satelitę ze sztuczną inteligencją, który nie musi przesyłać obrazów na Ziemię.Naukowcom po raz pierwszy udało się pomyślnie przetestować satelitę, który jest w stanie samodzielnie identyfikować i opisywać swoje obserwacje z orbity, bez konieczności przesyłania wszystkich zdjęć na Ziemię.

W innym przykładzie, model Llama zastosował zalecenia dotyczące leków na cukrzycę dla młodych osób, nie określając dawkowania, częstotliwości ani skutków ubocznych. Jeśli czytelnik, lekarz lub pracownik służby zdrowia , nie zweryfikuje ich z oryginalnym badaniem, tego typu podsumowania mogą stanowić bezpośrednie zagrożenie dla pacjentów.

Eksperci uważają, że zjawisko to wynika ze sposobu trenowania modeli sztucznej inteligencji. Wiele obecnych chatbotów jest trenowanych z wykorzystaniem danych wtórnych – takich jak masowo produkowane wiadomości naukowe – które zostały już uproszczone. W miarę jak sztuczna inteligencja kontynuuje streszczanie tych uproszczonych treści, rośnie ryzyko zniekształceń.

Eksperci zajmujący się sztuczną inteligencją w dziedzinie zdrowia psychicznego twierdzą, że wkrótce trzeba będzie usunąć bariery techniczne utrudniające rozwój i wykorzystanie sztucznej inteligencji.

099393800-1681896363-glenn-carstens-peters-nxxwgq33zq-unsplash.jpg

Użytkownicy powinni zachować ostrożność, ponieważ chatboty mogą łatwo zniekształcić treść.

W miarę jak użytkownicy coraz częściej polegają na chatbotach AI w celu zdobywania informacji naukowych, drobne nieścisłości w interpretacji mogą szybko się kumulować i rozprzestrzeniać, prowadząc do powszechnych nieporozumień. W czasach spadku zaufania do nauki, ryzyko to jest szczególnie niepokojące i wymaga szczególnej uwagi.

Stany Zjednoczone - Wietnam: Nie przegap

Ministerstwo Spraw Zagranicznych otrzymało kopię listu uwierzytelniającego ambasadora USA w Wietnamie.Po południu 2 lipca w siedzibie Ministerstwa Spraw Zagranicznych pan Le Cong Dung, dyrektor Departamentu Protokołu Państwowego i Tłumaczeń Zagranicznych, otrzymał kopię Listu Uwierzytelniającego od pani Jennifer Wicks, ambasador Stanów Zjednoczonych Ameryki w Wietnamie.

Ambasador Nguyen Quoc Dung odwiedza i pracuje w Minnesocie, USA.W dniach 28-30 czerwca ambasador Wietnamu w Stanach Zjednoczonych, Nguyen Quoc Dung, złożył wizytę i pracował w Minnesocie.

Wietnam zachęca amerykańskie przedsiębiorstwa do zwiększenia inwestycji w zaawansowane technologie.Rankiem 26 czerwca w siedzibie rządu wicepremier Ho Quoc Dung przyjął Jeffa Place'a, dyrektora ds. łańcucha dostaw w Coherent Group (USA). Podczas spotkania wicepremier potwierdził, że Wietnam zachęca amerykańskie firmy do zwiększania inwestycji, zwłaszcza w branżę zaawansowanych technologii, innowacji i półprzewodników.

Integracja sztucznej inteligencji z badaniami i upowszechnianiem wiedzy to nieodwracalny trend. Eksperci twierdzą jednak, że technologia nie zastąpi roli człowieka w rozumieniu i weryfikacji treści naukowych. W przypadku stosowania chatbotów w branżach wysokiego ryzyka, takich jak opieka zdrowotna, priorytetem musi być precyzja, a nie wyłącznie płynność językowa czy szybkość reakcji.

Źródło: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html