個人的な意見です（前置き）
よって真に受けることはしないでください。
技術は日進月歩で改善もされるでしょう。
ただ私の過去の経験と簡単に使ってみた結果から来る違和感をつらつら書いていきます
所詮ネット記事のまとめである
現状AIとよばれるものに質問等をすると、ほぼほぼWeb上のネタを仕入れてきて比較検討した結果を記載しています。
よってそもそもWebに上がっている情報が本当なのか？を判断できる人できない人がいるようにAIもPVなのか同じような記事が多いのかで判断していると思います。
そのため、こういう情報がありそれは間違っているよと追加質問すると肯定してくるものもあります。
すなわち最初の提案は嘘でしたと認めます
これが大事
本当にその情報が正しいかどうかを判断するのは受け取った人間側であります。
ファクトチェックができない人は使うべきではない
知り合いにもいるんですが、AIがこういってるから間違いない。
という言い方する人がいます。（内心アホだと思っています）
自分が使う際には参考にはするけど全部内容を吟味するか。
適当にググった（AIにぶち込んだ結果）はこれになるけど信用はするなよ
という感じで会話しています。
そう、ファクトチェックするまでもないたわいのない会話のなかででてくることは私も適当にあしらっています。
しかし自分がこれから判断することに影響するものだったりする事柄は全部チェックします。
ソースやその根拠、自分でね
AI信者が生まれそう
今危惧しているのは、AIにきけばすべて解決と思っている人がいることです。
これはどの時代にもいえることです、新聞に書いているから、TVで有名人が言っているから、ネットに書かれているから・・・
これからはAIが言ってるから
となるわけです。
いまではTVで言ってることをそのまま受け取って真実である（娯楽やどうでもいい事を除く）と思う人がすくなくなっているように、そのうち同じ現象がおきると思います。
※専用AI（例えばその分野の論文をベースに回答するしかしないなど）がでてくれば多少異なるかもしれません、それは専門誌のようなものでさすがに現代だとそういう考えが主流だなと思えるものだったりこういうことが起きているんだなというのを信じるソースとして使えるとは思っていますが、現状あるかもしりません
仕事で使う
私は元SEです、どうやって情報をあつめてきてどうやって処理してどう出力していくのか原理の一部は知っています。私が現役の時代はレコメンド（ネットショップのおすすめ、過去買った人はこういうの買ってますなど）がメインでそのロジックは基本頭の中にはいっています、もちろん今はさらに進化しているでしょうが根本は同じだと思っています。
また、仕事となると外部の情報に社内情報をさらすことは基本あり得ないことです。
こういうプロジェクトやってるんだなとか推測できる可能性もありますし、調べた結果もどこかでマージされて統計データの一部になっています。
そしてさらにその出てきた結果は所詮間違いだらけのWeb上でなんらかの優位性（PV・著名人・件数等など）があるものがピックアップされてるだけなので
仕事としてそれをそのまま使うことは、ただの阿呆です。
もちろん資料作成のベースとして、参考にするのはありかもしれません、書籍や論文から引っ張ってくることもあるかもしれませんのでその延長と考えてよいとおもいますが
が、ネット上でそれを行うリスクをどれだけの人が理解しているか？
ということが問題だと思います。
正直AIが理路整然と答えてるのかとおもいきや、みたら支離滅裂だったりすることもあります。
そういうものを修正するだけのマンパワーをちゃんとかけて資料作成はしてほしいものですが、嘘か本当かわかりませんが、そのまま提出するなんて人もいるみたいですからね。
もうどうかしてるぜ・・・
この記事を型理由は
とある会話をしていて、AIがこういってるからコレが正しい終了、みたいなことをされたからです。
は？それが本当に正しいかどうかわかってんの？実態や経験則から得た本当の情報なのか？とおもって、ちょっと違うこというと、話をシャットアウトされました。
ああ、、、この人は付き合っちゃいかん人や・・・っておもいました。
そういう人はずっとAIと会話しておいいてください。
私はそもそもAIという言葉自体きらいです。プログラムが統計なり集めた情報の関連性を認めたものを吐き出してるだけだとしか思っていません。
所詮はただのプログラム（ソフトウェア）です。
もちろん自我をもつぐらい高度なものが今後出てくるかもしれませんが、0/1で判定している間はたぶん無理でしょう。
それらしい結果を大体でいいやとするのはそれでよいのですが・・・
例えばそれらしい絵をかいたりそれらしい音楽つくったりそれが素晴らしいと思う人が多ければそれはそれで文化になっていくでしょう。完全否定するわけではなく、人間が想像しないようなこういうのはどうか？というものを作る、平均点のできでいいものを作るだけならAIとよばれているものは素晴らしいものだと思います。
まとめ
AIアレルギーのおっさんが適当に記述しただけです。
今後”結果が明確なものの”単純作業はどんどんAI化していくでしょうが、本当にクリエイティブなものを作れる世界は私が生きている時代にはできないと思っているので頑張ろう人間！です( ´∀｀ )
これでいいやが進めば人間の進化も止まってしまいますし、新たなものを生み出すことが難しくなります。利用できるものは利用するが最後はちゃんとその人が創造するものを作っていきましょう。
おまけ
AIだってその会社の事業です、質問者にとって心地よい回答をすることを目指している可能性が高いです。この人はこういう考え方（質問のしかた）だからこっちのほうがいいだろうみたいなね。
それはあくまでも膨大な過去情報から取捨選択して大多数の人がこっちをえらでるから（間違いだったとしても）こっちをこたえておいたほうが良いという判断をしているはずです。本当にあなたのことを思って回答してくれるとおもっていますか？開発企業の利益は？スポンサーは？利用データはどうつかわれるか？考えることは多いと思います。
