YJ的科學筆記

這個月，我在一場國際學術研討會演講後，與一位來自美國加州大學聖地牙哥分校（UCSD）的博士生進行交流，他提到他正在研究大型語言模型（LLM）在6G中的應用。而恰巧最近，中國人工智慧公司深度求索（DeepSeek） 發布了其最新語言模型 DeepSeek-V3。該模型以僅約 558 萬美元的訓練成本，展現出與 GPT-4o 和 Claude-3.5-Sonnet 等頂尖模型相媲美的性能。儘管 LLM 在自然語言處理領域取得了驚人的進展，其在無線通訊網路領域的應用仍面臨不少挑戰與限制。作為一名無線通訊技術的研究者，我認為在未來五年內，LLM 對該領域帶來的技術突破可能相對有限，以下是我對這一議題的一些觀點。 1. LLMs 的特性與無線通訊需求的技術差異 LLMs 是基於大規模文字數據訓練的生成式模型，其核心功能是預測文字序列中的下一個單字或片段。然而，無線通訊網路的設計對於多層面技術需求的精準性與實時性提出了極高要求，包括頻譜效率、能量效率、超低延遲以及高可靠性。 (1) 頻譜效率挑戰 ： 現代無線通訊技術中，頻譜資源是一個極為有限且昂貴的資源。在毫米波（mmWave）以及太赫茲波（THz）頻段的應用中，系統需要極為複雜的信道估計與編碼技術來實現高頻譜效率。而 LLMs 缺乏處理物理通道訊息的能力，尤其是在需要基於 CSI（Channel State Information）或 RSS（Received Signal Strength）進行即時調度的場景中，無法有效參與。 (2) 延遲與實時性限制 ： 在 URLLC（Ultra-Reliable Low-Latency Communication）場景下，傳輸延遲需要被壓縮到微秒級別。LLMs 的推理時間由於模型規模巨大，通常難以滿足這一級別的即時性要求。此外，模型推理的算力需求可能導致邊緣設備上的功耗增加，與6G倡導的低功耗設計理念背道而馳。 2. 通訊技術的創新需要深厚的物理和數學基礎 (1) 通道建模與電磁波傳播的複雜性 ： 無線通訊中，通道建模是系統設計的基石，涉及多路徑效應、都普勒頻移、遮擋和干擾等因素的精確分析。這些現象通常需要基於物理規律和統計學的精細建模，而非基於自然語言數據的統計學特性來解決。例如，利用射線追蹤（Ray Tracing）技術來模擬電磁波在城市環境中的傳播特性是現有系統設計的主流方法，...

Transformer 模型近年來因其在自然語言處理和深度學習中的卓越表現而備受矚目，其靈活處理動態數據的能力使其在其他領域也開始展現潛力，今天我們根據一篇發表於 IEEE TMC 2025 的文章，來探討如何利用 Transformer 技術提升多無人機系統的自主控制與協調效率。 Reference: L. Yu, Z. Li, N. Ansari and X. Sun, "Hybrid Transformer Based Multi-Agent Reinforcement Learning for Multiple Unmanned Aerial Vehicle Coordination in Air Corridors," in IEEE Transactions on Mobile Computing, doi: 10.1109/TMC.2025.3532204.  1. 系統背景與研究目標 隨著無人機技術的快速發展，多無人機系統已被廣泛應用於物流配送、災害監控以及城市空中交通管理等領域。然而，如何在密集的空域中實現無人機的自主協調與高效控制，仍是一項極具挑戰的任務。在進入研究問題之前，先來介紹空中走廊的概念，它是一種設計於三維空間中的虛擬飛行通道，用來規範無人機的運行範圍，類似於地面交通中的高速公路。這些走廊通常建模為具有邊界限制的幾何結構，例如水平的截頭圓柱和連接不同高度層的部分圓環。空中走廊的主要功能是通過規範化的通道設計，降低無序飛行所導致的碰撞風險，並同時提升空域資源的利用效率，從而支持多無人機在高密度空間內的協作任務。 本論文聚焦於多無人機在三維空中走廊中的協調導航問題，致力於解決以下核心目標： 安全性 ：避免無人機間的碰撞，並保證飛行過程中不越界。 高效性 ：最小化無人機的總飛行時間，實現高效的資源調度與使用。 自主性 ：無人機基於局部感測數據進行分散式決策，而不依賴集中式控制。 由於無人機的觀測數據具有高動態性和混合結構的特性，這些目標的實現需要克服多數據處理與決策優化的技術難題。 2. 提出的方法與創新設計 為了解決多無人機協調中的挑戰，本論文提出了一個基於 Hybrid Transformer 的多智能體強化學習框架（HTransRL） ，這是一種專為多無人機系統設計的創新方法。主要包含以下關鍵設計： Transfor...

當我們談到線性代數中的「正交性」(Orthogonality) 時，其實是在談一種特別的「垂直」關係。這個概念聽起來可能有點抽象，但我們可以從日常生活中的幾何圖像來理解它。設想一下兩條互相垂直的直線或是兩個相交成直角的平面，這種「完全沒有重疊」的狀態，就是正交性的幾何意義。換句話說，如果兩個向量是正交的，這代表它們之間的內積 (Dot product) 為零，也就是說它們彼此之間沒有任何重疊的成分。 正交的物理意義：互不干擾的訊號 從幾何學的理解，我們可以延伸到物理世界中的應用。在通訊網路工程中，正交性的概念被廣泛地應用，尤其在訊號傳輸中具有極其重要的地位。正交性有一個直觀的物理意義—如果兩個訊號彼此正交，那麼它們在傳輸過程中就不會互相干擾。我們可以想像兩個人在同一個房間內說話，如果他們的語言互不相干，彼此之間的訊息就不會被對方影響。下面是一些正交基底在工程中的應用。 訊號處理 : 在訊號處理中，將訊號分解為正交基底的線性組合，例如傅立葉變換能夠將訊號分解為正交基底的線性組合，是因為傅立葉基底由一組不同頻率的正弦和餘弦函數組成。這些函數在整個定義域上是正交的，彼此之間的內積為零，這意味著訊號的不同頻率成分可以完全獨立地表示，這種分解方式讓我們能夠針對每個頻率成分進行獨立處理，從而更精確地對訊號進行過濾、壓縮或強化。 資料壓縮: 例如，主成分分析（PCA）利用正交基底來降低資料的維度，保留主要資訊，應用於圖像壓縮和機器學習。這樣的壓縮方式使我們可以去除資料中的冗餘部分，從而在保留關鍵特徵的同時顯著降低資料量，這對於提高計算效率和儲存空間利用率非常重要。 資料獨立性: 在統計學和機器學習中，正交基底確保資料的各個特徵之間相互獨立，避免冗餘資訊，提高模型的效能。例如，當我們在訓練一個機器學習模型時，正交基底有助於確保不同特徵之間沒有線性相關性，這可以避免模型過度擬合並提高泛化能力。 正交性在通訊技術中的應用：OFDM 技術 OFDM (Orthogonal Frequency Division Multiplexing) 是一種高效的資料傳輸技術，廣泛應用於 WiFi、4G、5G 等通訊技術中。在 OFDM 中，資料被分散到許多子載波 (sub-carriers) 上，每個子載波承載一部分資料。然而，這些子載波之間並非隨意排列，而是保持著嚴格的正交關係。這意...

隨著無線通訊技術日新月異，資料隱私與安全需求也日益重要。基於通道狀態資訊（Channel State Information, CSI）的物理層密鑰生成（Physical Layer Key Generation, PLKG）技術逐漸嶄露頭角。PLKG 利用無線通道的互惠性及空間獨特性來產生加密密鑰，不同於傳統仰賴計算複雜度的加密系統，有望在軍事通訊和物聯網等高度安全需求的領域中扮演關鍵角色，提供更強大的資料保護能力。 通道狀態資訊（CSI）扮演的角色 正交分頻多工（OFDM）是一種廣泛應用於現代無線通訊的多載波調變技術，它將頻帶分割成多個子載波，有效應對多路徑衰落和頻率選擇性衰落。在 OFDM 系統中，藉由發送已知的導引信號（Pilot Symbols），接收端可以估計各個子載波的通道狀態，進而獲得精確的 CSI。CSI 是無線通訊系統中描述發送端與接收端之間通道狀態的重要資訊，CSI 能協助發送端調整傳輸參數，進而優化通訊效能，如提升資料傳輸量、可靠性及能源效率。在物理層金鑰生成（PLKG）中，CSI 被用於提取無線通道中的秘密資訊，藉由測量接收信號強度（RSS）和相位資訊等來產生金鑰。然而，環境雜訊和信號干擾可能影響測量結果，導致金鑰的隨機性和可靠性降低，為 PLKG 的實際應用帶來挑戰。 物理層安全技術的進展 為克服上述挑戰，近年來文獻上提出了許多針對 PLKG 的改進技術。例如，自適應量化、人工雜訊波束成形以及物理層加密策略等方法，皆有助於提升密鑰生成的有效性。這些技術藉由增強無線通道的隨機性和互惠性，使 PLKG 在實際環境中的應用更可靠。 物理層加密技術利用無線通道的不可預測性，無需事先共享的秘密或額外的加密協議，即可實現安全的密鑰交換。此外，輔助中繼通訊系統和安全的開關傳輸技術也被證明能有效增強密鑰生成的穩定性。 PLKG 的應用與挑戰 PLKG 技術在眾多領域展現出巨大的應用潛力。例如，在軍事通訊中，PLKG 能確保機密資訊在敵對環境中安全傳輸；而在物聯網環境中，PLKG 則能提供設備之間的安全連接，防止未經授權的存取。此外，PLKG 在移動載具中的應用也備受矚目，特別是在無人機（UAV）等移動設備上。無人機執行任務時，例如巡邏、搜救或物流配送，必須在高度動態的環境中維持穩定的通訊連結。PLKG 可以利用無人機和地面站之間的通道狀態變化，產生動態密...

人生就像一趟充滿未知的旅程，到處都是挑戰和考驗，而且常常跟我們預期的不一樣。很多時候，我們沒辦法等到所有條件都完美才做決定，而是要在不完美的情況下往前走，承擔風險，勇敢接受挑戰。 成長代表著了解這個世界的殘酷和美好，就算遇到挫折，還是要保有自己最初的目標。在困難中找到力量，是讓我們變得更堅強的關鍵。世界不會因為我們脆弱就變得比較簡單，只有自己變得更強大，才能讓我們面對世界的時候，感受到更多友善和溫暖。 對即將要進入職場的同學來說，適合的工作不只是賺錢的工具，更是一個實現自我、追求夢想的方法。當工作可以激發你的熱情，你就能更堅定地面對挑戰，並且不斷發掘自己的潛力。找到真正喜歡的工作之後，工作就不再只是責任，而是一個讓你展現自我的過程，讓你可以在裡面找到意義和成就感。不過，在追求熱情的過程中，可能會遇到一些現實的問題，像是薪水的壓力，而選擇那些社會地位比較高的「熱門工作」的人，可能就要犧牲自己的興趣。面對這些選擇的時候，我們要問自己：是要選擇物質上的安全感，還是要追求內心的滿足？ 適合自己的工作應該是可以讓你成長、提升專業知識和解決問題能力的。當你遇到困難的時候，它可以讓你更有信心，因為你知道自己在做的事情是有意義的，可以幫助你不斷變得更好。所以，當你要做選擇的時候，給自己一點時間好好想想、探索，不要害怕嘗試和失敗。相信你的熱情和堅持，這就是你最強大的力量，可以幫助你在這趟旅程中走得更遠，看到更多風景，讓你的生活更豐富、更有意義。

教授在研究生教育中扮演的角色不僅止於學術研究，更肩負著「指導」的重責大任。然而，「指導」的真諦究竟為何？指導教授應該在學生的研究與成長過程中介入多深？在美國，指導教授稱為 advisor，強調提供建議與方向引導；在英國則稱為 supervisor，著重監督與審查的職責。由此可見，指導教授的責任既包含對研究進度和方向的監督，也包含提供學術和職涯發展上的建議。 對於受過博士訓練的研究者來說，提供技術指導通常不是難事。然而，如何以有效且恰當的方式進行「監督」，箇中差異卻相當顯著。如果教育過度偏重績效，以過於嚴苛的方式強調進度規劃與責任制，這種「企業化」的管理方式在少子化的環境下正逐漸式微，也容易忽略個體成長的獨特性。 回歸教育的本質，什麼才是有效的監督方式。筆者認為，真正優良的研究所教育應讓受教者終身受益，而非僅僅完成一篇研究論文。對於Z世代的學生而言，理解、尊重和同理是指導過程中不可或缺的要素。這一代學生成長於數位化和快速變遷的世界，他們更重視自主性與平等交流，而難以接受基於權威的命令式指導。因此，教授在指導過程中應減少權威感，以平等的姿態進行交流，避免情緒化反應，並以同理心為基礎建立信任和合作關係。 建議的目的並非讓學生過度糾結於過去的錯誤，而是幫助他們在未來做得更好。好的建議應是一種引導和陪伴，而非批評與指責。因為教育的本質在於激勵人們勇於挑戰未知，而非讓人畏懼錯誤和失敗。唯有如此，才能促進學生的成長，讓他們從錯誤中汲取教訓，並在下一次挑戰中獲得進步。 筆者也持續致力於打造一個更具同理心、合作與理解的指導環境，和學生一起營造互信的研究所學習環境，共同在學術追求中獲得真正的成長。

你有沒有試過問 GPT 一個簡單的算術題， 結果它卻給了你一個錯誤答案？這種經驗點出了生成式 AI 的一個重要特性：在某些情況下， 它還是有明顯的限制。 這篇文章將探討這些限制如何反映 AI 在數學推理上的不足， 並進一步討論 AI 在通訊領域未來應用中的潛在機會和挑戰。 語言模型的局限性：模式匹配與邏輯推理 大型語言模型（LLMs），像是 GPT，在生成文本時常常依賴模式匹配，而不是真的進行數學推理或邏輯推導。所以，當 LLMs 被用於數學證明時，過程的嚴謹性和正確性可能就沒辦法保證。有時候，模型生成的答案看起來好像合理，但實際上卻是錯的，這在數學和技術應用中尤其要小心。 AI 生成新猜想的能力與限制 目前研究發現，雖然 LLMs 有能力生成新的數學猜想，但這些猜想的有效性和科學價值還是需要人類專家仔細驗證。AI 可以激發新靈感，幫助研究者突破傳統的思考框架，但它沒辦法取代人類數學家在數學結構上的直覺和嚴謹判斷。所以，AI 生成的結果需要經過嚴格審查，特別是在需要高精度和可信度的學術研究中。 通訊領域的機會：從物理現象到實際需求 不過，通訊領域的問題可不只是數學理論和公式而已，還會受到物理現象、使用者體驗和實際應用場景的影響。所以，相較於單純進行數學推導，LLMs 在設計和優化下一代通訊網路系統方面具有更高的應用潛力。因為通訊系統需要應對現實世界中各種複雜的狀況，而 AI 擅長處理大量數據並找出其中的模式，可以幫助我們找到比傳統方法更有效率的解決方案。LLMs 可以支援優化網路資源配置和負載平衡，或是根據電信商的自然語言指令自動生成設備配置，幫助網路管理員快速應對動態變化的需求。結合 LLMs 與感知技術（如影像數據）可以加強對環境的理解，提升網路的覆蓋範圍和連接穩定性，特別適合無人機或自動駕駛等應用。隨著模型規模的增大，AI 的推理能力也在不斷提升。未來，大型語言模型將能透過推理來修正自身的直覺，進一步突破科學和工程上的瓶頸，設計出更智慧、更有效率的系統，實現各種創新，並推動通訊技術的突破。 結語 未來研究有幾個方向值得特別關注。首先，要促進跨領域合作，結合數學、電腦科學和通訊工程等不同領域的專業知識，才能提升 AI 在通訊領域的應用深度。再來，要提高 AI 模型的數學理解能力，減少因為模式匹配而導致的推理錯誤。另外，要開發專門針對通訊領域的 AI 工具，針對特...