Kaspersky發佈了一篇如何在電腦上安裝和使用AI助手
AI 工具無處不在，從操作系統和辦公套件到圖像編輯器和聊天軟件。您如何使用 ChatGPT、Copilot 和 Midjourney 等 AI 工具，而不危及您的數字安全呢？
許多人已經在嘗試生成神經網絡，並且在工作中找到了它們的用途。例如，ChatGPT 及其類似的工具已經被近 60% 的美國人定期使用（並不總是得到管理層的許可）。然而，所有參與這些操作的數據 - 包括用戶的提示和模型的回應 - 都存儲在 OpenAI、Google 等大公司的服務器上。對於那些數據洩露是不可接受的任務，您不需要完全放棄 AI，您只需要投入一點努力（也許還有一些錢）來在您自己的電腦上本地運行神經網絡 - 甚至是筆記本電腦。
雲端的威脅
最受歡迎的 AI 助手是在大公司的雲端基礎設施上運行的。這樣做既高效又快速，但是您的數據可能會被 AI 服務提供商和完全無關的第三方訪問，就像去年發生在 ChatGPT 上的那樣。這種事故根據您使用 AI 助手的目的，可能會帶來不同程度的威脅。如果您只是為一些童話故事生成可愛的插圖，或者要求 ChatGPT 為您即將到來的周末城市旅行創建一個行程，那麼一個洩露不太可能導致嚴重的損害。然而，如果您與聊天機器人的對話包含了機密信息 - 個人數據、密碼或銀行卡號、地址、電話號碼、姓名或其他個人數據，那麼可能的雲端洩露就不再可以接受了。幸運的是，通過預先過濾數據，這是相對容易防止的 - 我們已經寫了一篇關於這個主題的另一篇文章。然而，在以下情況下，只有一種解決方案：將處理從雲端轉移到本地電腦。當然，在離線狀態下運行您自己版本的 ChatGPT 或 Midjourney 不太可能成功，但是其他在本地提供相當質量的神經網絡會減少計算負擔。
您需要什麼硬件來運行一個神經網絡？
您可能聽說過使用神經網絡需要超強的顯卡，但實際上並不總是這樣。不同的 AI 模型，根據它們的特性，可能對這樣的電腦組件有要求：RAM、視頻內存、驅動器和 CPU（這裡，不僅處理速度是重要的，還有處理器對某些向量指令的支持）。能否加載模型取決於 RAM 的數量，而“上下文窗口”的大小 - 也就是前一個對話的記憶 - 取決於視頻內存的數量。通常，使用弱顯卡和 CPU，生成會以蝸牛的速度進行（對於文本模型，每秒一到兩個詞），所以這樣的電腦只適合用來熟悉某個模型，並評估其基本的適用性。
如果您想在本地使用 AI，您最好有一個具有以下配置的電腦：
- 16 GB 或更多的 RAM；
- 4 GB 或更多的視頻內存；
- 256 GB 或更多的 SSD；
- 支持 AVX2 指令集的 CPU。
這樣的電腦可以運行大多數的語言模型，並且生成的速度可以接受（每秒幾十個詞）。如果您想使用更大或更複雜的模型，您可能需要更強的硬件，例如：
- 32 GB 或更多的 RAM；
- 8 GB 或更多的視頻內存；
- 512 GB 或更多的 SSD；
- 支持 AVX-512 指令集的 CPU。
這樣的電腦可以運行幾乎所有的現有模型，並且生成的速度非常快（每秒幾百個詞）。當然，這樣的配置也會更貴，所以您需要根據您的預算和需求來選擇。
您需要什麼應用程序來使用 AI？
除了硬件之外，您還需要一些軟件來在您的電腦上運行 AI 模型。這些軟件包括：
- 一個操作系統，最好是 Linux，因為它更適合與 AI 相關的工具和庫。如果您不熟悉 Linux，您可以選擇一個用戶友好的發行版，例如 Ubuntu 或 Mint。
- 一個 Python 環境，最好是 Anaconda，因為它可以幫助您管理不同的 Python 版本和依賴項。您需要安裝 Python 3.7 或更高版本，以及一些常用的庫，例如 numpy、pandas、scipy 等。
- 一個深度學習框架，例如 PyTorch 或 TensorFlow，用於加載和運行神經網絡。您需要安裝與您的顯卡相匹配的版本，以便利用 GPU 的加速功能。您還需要安裝一些相關的庫，例如 transformers、torchvision、tensorflow-hub 等。
- 一個文本編輯器或 IDE，例如 VS Code 或 PyCharm，用於編寫和運行 Python 代碼。您需要配置一些插件和設置，以便與您的 Python 環境和深度學習框架相連接。
- 一個或多個 AI 模型，用於生成文本、圖像或其他類型的內容。您可以從網上下載一些預訓練的模型，例如 GPT-2、BERT、DALL-E 等，或者您可以自己訓練一個模型，如果您有足夠的數據和時間。您需要將模型文件保存在您的電腦上，並且記住它們的路徑和名稱。一個或多個用戶界面，用於與 AI 模型互動。您可以使用一些現成的工具，例如 Streamlit、Gradio 或 Jupyter Notebook，或者您可以自己開發一個簡單的網頁或桌面應用程序，如果您有一些編程經驗。您需要為您的 AI 模型設計一些輸入和輸出的控件，例如文本框、按鈕、滑塊、圖像顯示器等。