Bug serius ini menunjukkan mengapa Anda tidak dapat mempercayai ChatGPT untuk pertanyaan keamanan rumah Anda

Saya tidak mengkhawatirkan AI dalam keamanan rumah, saya sangat menyukai AI yang menghemat waktu dan meningkatkan kinerja, terutama dalam hal pengenalan objek. Namun, itu tidak berarti Anda harus menggunakan ChatGPT dan mulai mengajukan pertanyaan tentang teknologi rumah, privasi, atau keamanan perangkat Anda.

AI sangat berguna jika Anda ingin salah satu agen Google memberi tahu Anda saat paket telah dikirim atau diambil, atau agar Tetangga Tepercaya ADT membuka kunci bagian depan Anda untuk anggota keluarga yang dikenali. Tapi kamu Benar-benar dia seharusnya tidak meminta nasihat keamanan, terutama dalam kondisinya saat ini.

Ada alasan bagus untuk ini: bahkan LLM (Model Bahasa Besar) terbaik pun masih berhalusinasi informasi berdasarkan pola yang dikumpulkan. Ini adalah masalah khusus di dunia rumah pintar, di mana spesifikasi teknis, model, kompatibilitas, kerentanan keamanan, dan pembaruan sering berubah. Dengan ChatGPT, Anda mudah bingung tentang apa yang benar, valid, atau bahkan nyata – dan ini adalah pertanyaan kunci saat mengambil keputusan terkait keamanan rumah. Mari kita lihat beberapa kesalahan terbesar untuk memahami maksud saya.

Obrolan AI berhalusinasi bahwa Tesla memata-matai keamanan rumah Anda

Tesla Model S dan 3 pada render stasiun impuls bp

Divisi bahan bakar alternatif BP memperluas kehadiran pengisian kendaraan listriknya di AS dengan pembelian peralatan pengisian cepat Tesla DC.

BP

Mulai dari membicarakan lemari es hingga iPhone, para ahli kami siap membantu membuat dunia menjadi lebih mudah.

Menanyakan chatbot tentang teknologi keamanan tertentu selalu merupakan bisnis yang berisiko, dan tidak ada yang bisa menggambarkan hal ini dengan lebih baik cerita populer ini di Reddit tentang kecerdasan buatan dalam obrolan yang memberi tahu pengguna bahwa Tesla dapat mengakses “sistem keamanan rumah” miliknya. Itu tidak benar – ini mungkin halusinasi berdasarkan layanan HomeLink Tesla, yang memungkinkan Anda membuka pintu garasi yang kompatibel. Layanan seperti Google Gemini juga mengalami halusinasi yang membuat detailnya sulit dipercaya.

Meskipun AI dapat menulis apa pun mulai dari esai hingga email phishing (jangan lakukan ini), AI masih menerima informasi yang salah, yang dapat menyebabkan masalah privasi yang tidak beralasan. Menariknya, ketika saya bertanya kepada ChatGPT apa yang dapat dihubungkan dan dipantau oleh Tesla, saya tidak melakukan kesalahan yang sama, tapi ya dia melakukannya tinggalkan fitur seperti HomeLink, sehingga Anda tetap tidak mendapatkan gambaran lengkap. Dan ini baru permulaan.

Mulai dari membicarakan lemari es hingga iPhone, para ahli kami siap membantu membuat dunia menjadi lebih mudah.

Chatbots tidak dapat menjawab pertanyaan tentang ancaman atau bencana saat ini di dalam negeri

Tanggapan dari ChatGPT di lokasi badai. Tanggapan dari ChatGPT di lokasi badai.

AI percakapan tidak akan memberi Anda detail penting tentang bencana yang muncul.

Tyler Lacoma/ObrolanGPT

ChatGPT dan perusahaan LLM lainnya juga kesulitan menyerap informasi real-time dan menggunakannya untuk memberikan saran. Hal ini terutama terlihat pada saat terjadi bencana alam seperti kebakaran, banjir atau angin topan. Saat Badai Milton mendekat bulan ini, saya bertanya kepada ChatGPT apakah rumah saya dalam bahaya dan di mana Milton akan dilanda. Meskipun untungnya chatbot tidak memberikan jawaban yang salah kepada saya, chatbot tidak dapat memberi saya saran apa pun selain mencari tahu tentang saluran cuaca lokal dan layanan darurat.

Jangan buang waktu Anda untuk hal ini ketika rumah Anda mungkin sedang bermasalah. Daripada beralih ke AI untuk mendapatkan jawaban cepat, periksa aplikasi cuaca dan perangkat lunak seperti Watch Dutygambar satelit terkini dan berita lokal.

LLM tidak memiliki pembaruan penting tentang pelanggaran data dan keamanan merek

Versi web ChatGPT menjawab pertanyaan keamanan Dering Anda. Versi web ChatGPT menjawab pertanyaan keamanan Dering Anda.

Meskipun ChatGPT dapat mengumpulkan informasi tentang riwayat perusahaan keamanan, ia melewatkan detail penting atau membuat kesalahan.

Tyler Lacoma/ObrolanGPT

Alangkah baiknya jika AI chatbot dapat memberikan ringkasan riwayat pelanggaran keamanan merek dan apakah ada tanda bahaya terkait pembelian produknya. Sayangnya, mereka tampaknya belum mampu melakukan hal ini, sehingga Anda tidak dapat sepenuhnya mempercayai apa yang mereka katakan tentang perusahaan keamanan.

Misalnya, ketika saya bertanya kepada ChatGPT apakah Ring telah melakukan pelanggaran keamanan, saya menyebutkan bahwa Ring pernah mengalami insiden keamanan, namun tidak Kapan (sebelum 2018), yang merupakan informasi penting. Hal ini juga mengabaikan peristiwa-peristiwa penting, termasuk berakhirnya pembayaran Ring kepada pelanggan yang terkena dampak tahun ini dan pembalikan kebijakan Ring pada tahun 2024 yang mempersulit polisi untuk mengakses data cloud.

ChatGPT menjawab pertanyaan tentang Wyze. ChatGPT menjawab pertanyaan tentang Wyze.

ChatGPT tidak pandai memberikan jadwal acara dan tidak dapat diandalkan untuk memberikan rekomendasi.

Tyler Lacoma/ObrolanGPT

Ketika saya bertanya tentang Wyze, yang saat ini tidak direkomendasikan CNET, ChatGPT mengatakan itu adalah “pilihan yang baik” untuk keamanan rumah, tetapi menyebutkan bahwa ada pelanggaran data pada tahun 2019 yang mengekspos data pengguna. Apa yang tidak dia sebutkan adalah bahwa Wyze mengungkapkan database dan file video pada tahun 2022, kemudian pada tahun 2023, dan lagi pada tahun 2024, kerentanan yang memungkinkan pengguna mengakses video rumahan pribadi yang bukan milik mereka. Meskipun rangkumannya bagus, ringkasan tersebut tentu saja tidak memberikan gambaran lengkap tentang catatan keamanan atau apakah merek dapat dipercaya dengan aman.

Baca selengkapnya: Kami bertanya kepada seorang kriminolog terkemuka bagaimana pencuri memilih rumah

AI obrolan tidak yakin apakah perangkat keamanan memerlukan langganan atau tidak

ChatGPT menjawab pertanyaan tentang langganan Reolink. ChatGPT menjawab pertanyaan tentang langganan Reolink.

ChatGPT tidak dapat menjelaskan tingkat langganan atau keamanan secara memadai.

Tyler Lacoma/ObrolanGPT

Pertanyaan keamanan rumah umum lainnya yang saya lihat adalah apakah Anda perlu berlangganan untuk menggunakan sistem keamanan atau kamera rumah. Beberapa orang tidak ingin membayar langganan berkelanjutan atau ingin memastikan apa yang mereka dapatkan sepadan. Meskipun chatbots dapat memberikan banyak detail tentang resep, mereka tidak membantu dalam kasus ini.

Ketika saya bertanya kepada ChatGPT apakah Reolink memerlukan langganan, mereka tidak memberi saya rincian apa pun, menyatakan bahwa banyak produk tidak memerlukan langganan untuk fitur dasar, namun Reolink “mungkin menawarkan paket berlangganan” untuk fitur lanjutan. Saya mencoba mempersempitnya dengan menanyakan tentang Reolink Argus 4 Pro, namun ChatGPT sekali lagi masih belum jelas mengenai beberapa fitur yang gratis dan beberapa mungkin memerlukan langganan. Ketika tanggapan tersebut berkembang, ternyata sebagian besar tidak ada gunanya.

Sementara itu, kunjungi panduan CNET untuk berlangganan kamera keamanan atau Halaman berlangganan Reolink Anda sendiri menunjukkan bahwa Reolink menawarkan langganan tingkat klasik dan tingkat lanjut khusus untuk kamera LTE, mulai dari $6 hingga $7 per bulan tergantung pada berapa banyak kamera yang ingin Anda dukung, dan hingga $15 hingga $25 untuk penyimpanan cloud tambahan dan pemberitahuan/peringatan cerdas yang kaya. Menemukan jawaban ini membutuhkan waktu lebih sedikit dibandingkan kueri ChatGPT, dan Anda akan mendapatkan bilangan real untuk digunakan.

ChatGPT juga bukan tempat untuk alamat rumah atau informasi pribadi Anda

Ilustrasi digital menampilkan chatbot pilihan di depan layar pesan. Ilustrasi digital menampilkan chatbot pilihan di depan layar pesan.

Jangan biarkan chatbot belajar terlalu banyak tentang informasi pribadi Anda.

Vertigo3d melalui Getty

Seperti yang dikatakan seorang detektif terkenal: “Hanya satu hal lagi. Jika Anda pernah bertanya kepada chatbot tentang keamanan rumah, jangan pernah memberikan informasi pribadi apa pun seperti alamat rumah, nama, situasi tempat tinggal, atau informasi pembayaran apa pun. AI seperti ChatGPT Saya pernah melakukan kesalahan sebelumnya yang memungkinkan pengguna lain memata-matai data pribadi dengan cara ini.

Selain itu, kebijakan privasi LLM selalu dapat diperbarui atau dibiarkan tidak jelas untuk memungkinkan pembuatan profil dan penjualan data pengguna yang mereka kumpulkan. Pengikisan media sosial sudah cukup buruk, Anda Benar-benar Anda tidak ingin memberikan data pribadi langsung ke layanan AI yang populer.

Berhati-hatilah dengan data apa yang Anda berikan dalam pertanyaan Anda dan bagaimana Anda mengungkapkannya, karena akan selalu ada seseorang yang ingin memanfaatkannya. Jika Anda merasa sudah terlalu sering memasukkan alamat Anda secara online, kami punya panduan tentang bagaimana Anda dapat membantu memperbaikinya.

Baca selengkapnya: Data pribadi Anda ada di mana-mana di Internet. Inilah yang dapat Anda lakukan

Untuk informasi lebih lanjut, lihat apakah Anda harus membayar untuk fitur-fitur ChatGPT yang lebih canggih, lihat ulasan mendalam Google Gemini, dan informasi terbaru tentang Apple Intelligence.



Sumber