https://www.seikyoonline.com/summarize/seikyo-campus-13832.html
英国BBCが主導した国際研究（2025年）によれば、ニュースに関する生成AIの回答の約45％に少なくとも一つの「重大な不正確性の問題」が認められました。
大量の記事・テキストデータを分析し、最も高い確率で現れるパターンや共通の論点を特定することで、「平均的な意見・情報」が抽出されるのがAIです。
AIは「何が正しいか」ではなく、「確率が高いか低いか」なのです。
生成AIが利用者に提供するデータの特徴は、「平均」であるのです。
AIは思考のプロセス（過程）が可視化されません。
どのような判断や選択を経て結論に至ったのかが分からないまま、「結果」だけが提示されるのです。
結論が生まれるまでに、どんな判断の積み重ねがあったかは分からないのです。
According to an international study led by the BBC (2025), approximately 45% of generative AI responses regarding news contained at least one "significant inaccuracy."
AI functions by analyzing vast amounts of articles and text data to identify the patterns and common themes that appear with the highest probability, thereby extracting "average opinions and information."
For AI, the focus is not on "what is correct," but rather on "high versus low probability."
The defining characteristic of the data generative AI provides to users is that it represents an "average."
The thought process behind AI is not visible.
Only the "result" is presented, without revealing the judgments or choices that led to that conclusion.
It is impossible to know the sequence of judgments that accumulated to produce the final conclusion.
**********************************************************************************
AI技術、特にディープラーニングを用いた生成モデルは、現実と区別がつかないほど精巧な偽の画像、動画、音声、そしてテキストを自動生成する能力を持っています。
これらの偽情報は、特定の個人や集団を標的にした名誉毀損や詐欺、プロパガンダによる世論操作、選挙への介入など、悪意を持って利用された場合、社会に計り知れない混乱と不信感をもたらす可能性があります。
特に懸念されるのは、その生成スピードと拡散力です。
かつては専門的な技術と時間が必要だった偽情報の作成が、AIによって誰でも容易に行えるようになり、ソーシャルメディアを通じて瞬時に広範囲へ拡散されるリスクが高まっています。
情報の真偽を個人が見極めることはますます困難になり、社会全体の「何が事実なのか」という共通認識が失われかねません。
AI technologies—specifically generative models utilizing deep learning—possess the capability to automatically create fake images, videos, audio, and text that are virtually indistinguishable from the real thing.
If used maliciously, such disinformation can cause immense social chaos and distrust.
Leading to consequences such as defamation and fraud targeting specific individuals or groups, the manipulation of public opinion through propaganda, and interference in elections.
Of particular concern are the speed at which this content is generated and its potential for rapid dissemination.
Creating disinformation, a task that once required specialized skills and significant time, can now be easily accomplished by anyone using AI; this has heightened the risk of such material spreading instantly and widely across social media.
As it becomes increasingly difficult for individuals to discern the authenticity of information, society risks losing its shared understanding of what constitutes the truth.
******************************** My Opinion *********************************
今朝方、TVの気象予測についてのバラエティー番組を何となく見ていましたら、スタジオに呼ばれたコメンテーターが気象予報の専門家に対して、「何故に日本の気象庁は未だにAI予測に移行しないのか？」。
「世界では既にAI予測は常識に成って成果を上げている」。
「日本は対応が遅すぎる」と批判していました。
これに対し、気象の専門家は次のように答えました。
「進路については精度は高くなってきましたが、気象現象の強度レベルについては、全く参考に成らないレベル」であると答えていました。
AIの気象予測は、比較的大きな枠で囲まれた（有限要素法と同様の事？）」を使ってAI予測をおこなていると言う事。
そして、日本の気象庁はもっと小さな枠で、これまでの膨大な気象データから生成されたアルゴリズムを使って予測している」と答えていました。
今のメディアや文化人は、AIを神様の様に盲信しています。
AIはあくまでも、確率を計算して結果を出す機械でしかないのです。
個人的にも、英会話の翻訳にAIをつかっているであろう「英訳」を使っていますが、多くの間違った解釈による英訳が散見されます。
今の世俗的なAIに対する盲信は、何時か大きな問題になる可能性を秘めていると感じています。
Early this morning, I happened to be watching a TV variety show about weather forecasting.
A commentator invited to the studio criticized a weather expert, asking, "Why hasn't the Japan Meteorological Agency (JMA) switched to AI-based forecasting yet?"
They argued, "AI forecasting has already become the global standard and is delivering results," and claimed, "Japan is far too slow to adapt."
In response, the weather expert explained:
"While accuracy regarding storm paths has improved, the AI's predictions concerning the intensity of weather phenomena are not reliable enough to be of any real use."
He noted that AI weather forecasting typically operates using relatively large grid cells (similar to the Finite Element Method).
In contrast, he explained, the JMA uses much finer grid cells and relies on algorithms generated from vast amounts of accumulated historical weather data to make its predictions.
Nowadays, the media and public figures tend to place blind faith in AI, treating it almost like a god.
Ultimately, however, AI is nothing more than a machine that calculates probabilities to produce results.
Personally, I use AI-generated English translations—likely produced by AI tools—and I frequently encounter errors stemming from misinterpretations.
I feel that this widespread, uncritical belief in AI carries the potential to lead to serious problems down the line.
0 件のコメント:
コメントを投稿