Moral Dilemmas of Giant AI Companies｜巨大AI企業の倫理感の葛藤

素材記事： ‘No ethics at all’: the ‘cancel ChatGPT’ trend is growing after OpenAI signs a deal with the US military
素材写真： Photo by Nahrizul Kadri on Unsplash

Hmm, they should have known better… But was it a desperate measure to escape the fierce competition among AI giants? When OpenAI signed a massive contract with the U.S. military—likely removing ethical guardrails for AI—its user base rapidly abandoned ship.

Anthropic had previously raised security and safety concerns. This company, which employs a full-time philosopher, rejected a contract that would have made them subservient to the US military. Instead, OpenAI became the next negotiating partner and essentially agreed.

The result? A significant number of ChatGPT users are quitting the app. Even after quitting ChatGPT, there are still about 200 alternatives, right? The users won’t get hurt. It’s quite a crazy market.

In any case, thanks to the Trump administration pushing the envelope, the ethical issues inherent in AI and the difficult relationship between AI and politics have been exposed ahead of schedule. Ironically.

うーん、分かってただろうに…。でも、AI巨人間の熾烈な競争から抜け出すために苦肉の策だったんですかね。オープン AI がアメリカ合衆国の軍と、…おそらくは AI への倫理ガードレールを外す形で…大規模契約を結んだことで、入力 利用者たちが一気に離れました。

背景にあるのは、先週にシェアした、Anthropic had previously raised security and safety concernsてめすね。常勤の哲学者を設置するこの企業は、アメリカ軍の言いなりになる契約を蹴りました。その代わりにオープン AI が次の交渉相手になって、基本同意した。

その結果、A significant number of ChatGPT users are quitting the app as a resultになった。やめても、まだ200ぐらいの選択肢があるからですよね、代わりの生成AI が。なかなか とんでもない市場です。

いずれにせよ、トランプ 政権が無茶をしてくれる おかげで、AI が孕む 倫理的問題や、AI と政治との難しい関係が、前倒しで露見することになりましたね。