Zhuoran Z , Changqiang H , Hanqiao H , et al. An optimization method:hummingbirds optimization algorithm[J]. 系統工程與電子技術（英文版）, 2018, 29(2).
本文僅供自學和交流使用，未經允許請勿轉載~謝謝Abstract:
本文介紹了一種優化算法 - 蜂鳥優化算法（HOA），其靈感來自于蜂鳥的覓食過程。所提出的算法包括兩個階段：自我搜尋階段和指導搜尋階段。通過這兩個階段，可以平衡算法的探索和開發能力。限制和非限制基準函數都用于測試HOA的性能。十個經典基準函數被視為無限制基準函數。同時，兩個工程設計優化問題被用作限制基準函數。這些實驗的結果表明HOA是有效的并且能夠進行全局優化。
關鍵詞：基于人口的算法，全局優化，蜂鳥優化算法（HOA），工程設計優化。
1. Introduction
優化問題在科學，經濟學，工程學，化學和其他領域中很常見。然而，面對日益複雜的優化問題，尤其是具有許多局部最優點的高維問題，使用目标函數的推導來指導搜尋的基于梯度的算法不再适用。
随機算法随機優化優化問題，沒有實質的梯度資訊。是以，它們比基于梯度的算法更适合于複雜的優化問題。近幾十年來，随機算法取得了很大進展，逐漸取代了基于梯度的算法，成為用于優化計算的主流算法。
随機算法包括兩種主要類型：基于個體的算法和基于群體的算法。基于個體的算法僅在整個優化過程中生成單個随機解決方案并進行更新。雖然算法具有較少的功能評估，但由于解決方案數量較少，算法缺乏個體之間的資訊共享，這使得算法很容易陷入局部最優。相比之下，基于人口的算法随機建立多個解決方案，并在優化過程中改進它們。多種解決方案可以使基于人口的算法能夠在不同的空間區域進行搜尋，并且個人可以互相交換資訊。是以，與基于個體的算法相比，基于群體的算法具有跳出局部最優的能力，代價是增加計算成本。
大多數基于人口的算法有四個基本特征：（i）它們是自然靈感的; （ii）他們使用随機變量; （iii）他們不需要大量的梯度資訊; （iv）它們有幾個需要調整的參數。根據靈感來源，基于人口的算法可以分為四類：進化，基于群體的智能，基于實體的算法和基于人類行為的算法。進化算法的靈感來自于自然界中生物的進化過程。最具代表性的算法是遺傳算法（GA）[1];它基于達爾文的生物進化理論，其主要原則是适者生存。其他流行的算法有差異進化（DE）[2]，無性繁殖優化（ARO）[3]，物種共同進化算法（SCEA）[4]和猴王進化（MKE）[5]。
基于群體智能的算法受到自然界中生物群體行為的啟發。最具代表性的算法是粒子群優化（PSO）[6]，它模拟了鳥類的植絨行為。其他流行的算法是布谷鳥搜尋算法（CS）[7]，螢火蟲算法（FA）[8]，蝙蝠算法（BA）[9]，灰狼優化器（GWO）[10]，蛾火焰優化算法（MFO） [11]，烏鴉搜尋算法（CSA）[12]，認知行為優化算法（COA）[13]，抹香鲸算法（SWA）[14]，蚱蜢優化算法（GOA）[15]，以及緞面柏葉鳥優化器（ SBO）[16]。
基于實體的算法受到宇宙中實體規則的啟發。最具代表性的算法是引力搜尋算法（GSA）[17]，它緻力于引力和品質互相作用的規律。其他流行的算法是基于星系的搜尋算法（GbSA）[18]，動力學氣體分子優化算法（KGMO）[19]，水蒸發優化（WEO）[20]和電子資料算法（ES）[21]。
基于人類行為的算法受到人類社會行為的啟發。最具代表性的算法是基于教學的優化（TLBO）[22]，它模拟教師的教學行為和學生在課堂上的學習行為。其他流行的算法是和聲搜尋（HS）[23]，内部搜尋算法（ISA）[24]，基于人類行為的優化（HBBO）[25]和人類心理搜尋（HMS）[26]。
對于絕大多數基于人口的算法，如何更有效地平衡探索和利用是提高算法性能的關鍵。探索代表了基于人口的算法的全局搜尋能力，并且它被用于通過用一些随機化方法搜尋新區域來增強跳出局部最優的能力。同時，開發可以提高基于種群的算法的收斂速度，并應用于在目前最優解的附近找到更好的解。但是，這兩種功能互相沖突，沒有人知道算法中兩者的确切比例是否存在任何優化問題。現有的可行平衡政策可以分為三類：（i）全局搜尋算法的初始階段，稍後進行本地搜尋。 （ii）更好的個人進行本地搜尋，窮人進行全球搜尋。 （iii）在算法中以一定機率随機切換全局搜尋和局部搜尋。
此外，幾乎所有基于人口的算法都包含幾個需要在運作之前調整的參數。例如，DE需要預先設定縮放和交叉因子。考慮速率，音調調整率和生成帶寬，HS應考慮和聲記憶的值。 PSO需要确定慣性權重，速度的最大值，認知因素和社會學習因素。對于不同的優化問題，算法通常需要設定不同的參數值。這是一項耗時的工作。是以，與具有多個控制參數的算法相比，具有更少參數的算法更容易實作并且更适應更廣泛的優化問題。
盡管各種各樣的新算法層出不窮，但無免費午餐定理[27]已經證明，沒有一種算法可以解決所有優化問題。換句話說，如果算法對某些問題表現良好，那麼對于其他問題，它将不可避免地表現不佳。是以，仍然存在許多需要通過新算法而不是目前優化技術來解決的特定優化問題。為此，提出了一種基于人口的算法蜂鳥優化算法（HOA）來解決優化問題。該算法的靈感來自蜂鳥的覓食過程。
本文的其餘部分組織如下：HOA的數學模型在第2節中較長的描述。第3節描述了實驗設定并示範了實驗結果。最後，第4節介紹了進一步工作的結論和建議。
2. HOA
2.1 Inspiration
蜂鳥是世界上最小的鳥類，其中大多數長7厘米至13厘米。這種獨特的鳥隻分布在美洲，絕大多數物種的栖息地位于熱帶和亞熱帶中美洲。蜂鳥可以以每小時45公裡的速度飛行。它們可以以快速的翼展速率在半空中盤旋，其中最大物種的速度從大約12次/秒到最小的一些物種的超過80次[28]。蜂鳥需要依靠覓食來維持身體的高代謝，而他們的主要食物來自花蜜。圖1顯示了自然界中的蜂鳥。
在蜂鳥的覓食過程中有兩個搜尋階段。首先是自我搜尋階段。在這個階段，蜂鳥可以根據其認知行為進行搜尋，而無需與人群中的其他個體進行互動[29,30]。從本質上講，認知行為是一種選擇性搜尋過程，它基于個人積累的搜尋經驗。例如，蜂鳥經常使用他們的經驗進行有針對性的搜尋，是以可以根據他們的形狀或顔色預測花中的花蜜量。如果确定花蜜的數量充足，蜂鳥将進一步利用這朵花。然而，如果它們不充足，它們将很快留下一朵花并随機搜尋下一個目标。當蜂鳥缺乏關于食物位置的明确資訊時，這無疑是一種簡單有效的搜尋模型。
第二個是指導搜尋階段。除了搜尋經驗之外，蜂鳥還可以通過使用各種優勢個體作為指導資訊進行搜尋。例如，在蜂鳥的領土行為中，在一個人占據豐富的食物來源作為其領土後，其他蜂鳥将迅速移動到該領土[31,32]。當這些新來的人被第一個人趕走時，他們将跟随其他傑出人士。這種模式的優點是幫助蜂鳥有一個清晰的搜尋方向，避免盲目搜尋。
受這兩個搜尋階段的啟發，我們提出了一種新的優化算法HOA，其詳細資訊将在下一節中介紹。
2.2 Proposed method description
如上所述，我們的HOA包括兩個階段：自我搜尋階段和指導搜尋階段。 HOA中的蜂鳥代表搜尋者，他們的位置對應于優化問題的可行解。食物來源的品質是健身功能的價值，最佳食物來源是最佳解決方案。 HOA的初始化由以下公式完成：
其中
是第i種蜂鳥在種群中的位置（
，N是種群大小），
和
代表變量的上下界。搜尋空間，分别。 rand是0到1之間的随機數，它在以下段落中具有相同的含義。
2.2.1 Self-searching phase
為了将認知行為轉換為數學模型，我們将最後保留的算法解決方案視為目前搜尋的體驗。當蜂鳥我不斷發現更好的食物來源（
）時，這意味着目前的搜尋區域很有前途。
是以，蜂鳥将進一步利用該區域。蜂鳥的新位置可以通過以下公式獲得：
其中
和
分别是疊代t和t-1的第i個蜂鳥的位置。如果它給出更好的函數值，則接受
，否則保持不變。
當蜂鳥
i連續搜尋但未能找到更好的結果（
）時，這意味着蜂鳥将從經驗中知道目前區域不值得繼續開發。在這種情況下，蜂鳥會随機改變搜尋方向。此程式基于Levy航班實施。 Levy飛行是一種重要的非高斯随機遊走，其随機步長受重尾機率分布的影響[33]。由于方差的無限快速增長，這種飛行模式最重要的特征是它可以在不确定的環境中盡可能地搜尋空間。與正常随機遊走或布朗運動相比，征費飛行更有效。圖2展示了兩維中Levy飛行和布朗運動的1000步的運動軌迹。
如圖2所示，我們可以觀察到Levy飛行比布朗運動産生更大的跳躍，進而更廣泛地探索搜尋空間。是以，它更适合大規模搜尋。
蜂鳥的新位置是通過執行Levy飛行産生的，如下所述：
其中
α是應該與感興趣的問題的尺度相關的比例因子。
⊕是入門乘法。接受
，如果它給出更好的适應值。
根據
[7,34]，α和
Levy（β）可以表示為
其中
最好表示疊代
t的最佳解。
α0是常數。
μ和
υ選自正态分布
和
，
，
.這裡，
是Gamma函數。在這項工作中，
α0等于
0.01，
β等于
1.5，如[7]中設定的
CS。
在自我搜尋階段，蜂鳥通常根據原始梯度資訊進行學習，這可以加快算法的收斂速度。然而，當算法可能落入局部最優時，蜂鳥在搜尋空間中通過Levy飛行進行廣泛搜尋，這可以增強算法的全局搜尋能力。
2.2.2 Guide-searching phase
在這個階段，蜂鳥通過地域行為在環境中搜尋。目前在HOA中占據領土的最佳個體被稱為領土鳥。其他人被稱為跟随鳥類。領土的位置與目前最佳個體的位置相同。占領領土後，領土鳥類不斷在其領土内巡邏。這個過程可以描述如下：
其中
是第t次疊代中領地鳥的位置。
是介于
-1和1之間的随機值，可以調整個體的搜尋方向。
λ是一個比例因子，使領地鳥在其目前位置周圍略微移動。這裡，
λ設定為
0.1*（ub-lb）。如果
的适應值優于
，則
将代替
.等式（5）旨在向最佳個體添加輕微擾動，允許其在其鄰域内執行精細搜尋。這種方法可以幫助最佳個體跳出局部最優，進而避免算法演化的停滞。
與領土鳥類不同，下列鳥類的運動分為兩種狀态。
State1:領土鳥沒有找到接近的鳥j。在這種情況下，下面的鳥j将移動到領土鳥。其新職位更新如下：
其中
是第
t次疊代後第
j個跟随鳥的位置。
MF是一個突變因子，可以決定是否要改變下一隻鳥的位置。該因子的值是1或2，這也是由等機率随機選擇的啟發式步驟，因為
。随着人口逐漸收斂于搜尋空間，
将接近
。在收斂的後期，假設
，則（6）可以轉換成以下形式：
從（7）可以發現，當
MF = 1時，
将總是
。同時，（8）表明群體仍然是探索性的并且允許探索遠離空間收斂的解。基于以上分析，
MF可以有效地平衡算法的局部搜尋能力和全局搜尋能力。
State 2:領土鳥發現下面的
j鳥接近自己并發出警告。以下
j鳥受到驚吓并飛往周圍地區。在此過程中，從其他鳥類中随機選擇個體。如果所選擇的個體具有更好的位置，則下面的
j鳥朝向它飛行。但是，如果所選個人的位置較差，最好遠離該個人。該過程由以下公式描述：
結合這兩種狀态，下列鳥類的運動模式可描述如下：
其中
表示領土鳥類發現下列鳥類的機率。在這項工作中，
确定如下：
其中
是
的适應值，并且等級
是在群體中的其他鳥類中跟随鳥j的等級。
強調個體越好，這個機率就越高。它使優秀的個體能夠以更大的機率追随最優秀的個體，而窮人則更有可能追随随機選擇的個體。從優化的角度出發，該算法利用目前最優的個體來指導人口，可以迅速縮小搜尋空間，提高人口的開發能力。随機選擇的個體用作指導資訊以增強算法的全局搜尋能力。總的來說，引導搜尋階段可以吸收來自不同個體的資訊，進而可以更好地平衡算法的開發和探索能力，這使得該算法更适合于找到優化問題的解。
為了避免陷入局部最優，在搜尋過程中引入了角色轉換機制：如果下一隻鳥發現的區域比目前被其他鳥類和領地鳥類占據的區域更好，它将被轉換為新領域的鳥類，原始領域的鳥類将在下一次疊代中轉化為下一隻鳥。
此外，HOA中的個人可能會搜尋超出邊界的人。是以，我們添加了邊界控制政策，其具體過程如下：
其中
是第
t次疊代時第
i個解的第
d維。總之，HOA的僞代碼可以如
算法1中那樣給出。
3. Experimental study
總共使用了十個經典基準函數和兩個衆所周知的工程設計優化問題來整體評估HOA的性能。所有實驗均在MATLAB 2016a軟體中進行，模拟在具有16 GB RAM的Core（TM）i7-6700HQ 2.60 GHz上運作。
3.1 Experiment I: unconstrained benchmarks
在本節中，使用[35]中給出的十個不同的基準函數來評估HOA的性能，并将它們的結果與兩組中的11個算法的結果進行比較。在第一組中，使用了已經應用于許多領域的三種經典算法和主流算法，即PSO [36]，人工魚群算法（AFSA）[37]，人工蜂群（ABC）算法[38]。在第二組中，最近的文獻中提出了八種最先進的算法：CS [7]，GSA [18]，FA [8]，GWO [10]，MFO [11]，CSA [12] ]，采用正弦餘弦算法（SCA）[39]和SBO [16]。基準函數包括兩個類别：單峰
和多峰
。表1總結了十個基準的詳細資訊。對于
，最大功能評估數（MaxFE）設定為100000。每個算法獨立地執行30次測試功能。
首先，我們将HOA與第一組中的主流算法進行比較。為了公平比較，為了比較每個測試函數在相同最大疊代次數下的所有算法，HOA的種群大小設定為50，因為它有兩個階段，其他算法的種群大小設定為100，因為包含一個階段。本測試中比較算法的控制參數設定詳述如下：
(i) PSO: 顯示了使用HOA和三個比較算法在單峰函數
上獲得的優化結果，其中“最佳”，“最差”，“平均值”和“SD”分别表示最佳，最差和平均适應值與标準偏差。此外，算法按照從小到大的平均解決方案進行排序，并且使用粗體字型突出顯示每個函數的最佳結果。最後，為了直覺地展示三種算法的性能，我們在
表2中添加了平均等級和總體等級。根據
表2，可以觀察到我們的HOA在比較算法和收斂曲線中具有最佳結果。如
圖3所示，HOA具有最快的收斂速度
。 所有算法的多峰函數
得到的比較結果總結在
表3中。與單峰函數不同，多模函數包括許多局部最小值，其數量随着問題規模的增加呈指數增長。是以，這些功能可能會破壞優化器的探索能力。從
表3中，我們可以發現HOA在函數上優于其他算法
，并且僅在
中丢失。對于
，ABC表現出最佳性能，而HOA表現出第二好的性能。從
表3的最後一行開始，HOA在所有算法中排名第一。作為
圖4所示的所有算法的收斂曲線，HOA在收斂速度方面呈現出有希望的性能。
為了進一步測試算法的性能，将HOA與第二組進階算法進行比較。為了確定比較的公平性，HOA和CS的人口規模設定為50，因為它們分為兩個階段。對于其餘算法，總體大小等于100，因為它們隻有一個階段。 HOA不需要特定的控制參數，表4中描述了所有比較算法的控制參數設定。
提供了九種單峰函數算法
的統計結果。從
表5中，我們可以觀察到HOA可以比
的其他伴随算法獲得更好的結果，并且僅對
更差。
表5的最後一行顯示HOA在所有算法中排名第一。 GWO與
相比具有良好的性能，與其他算法相比排名第二。
圖5中給出的收斂速度和方差分析（ANOVA）測試的圖形結果表明，HOA在收斂速度和解決方案品質方面優于其競争對手。
Fig. 5 Convergence curve and ANOVA test of four unimodal functions
所有考慮的多模函數算法
得到的優化結果列于
表6.如
表6所示，HOA優于
的其他8種算法，但其性能并不優于
和
。在其他細節中，對于
，GWO可以獲得與HOA相同的優異結果，并且MFO顯示出
和
的最佳性能。根據總體排名，HOA在多模态功能方面排名第一，這意味着HOA具有出色的探索能力。 GWO和MFO分别排名第二和第三，CS在九種算法中表現最差。
圖6描述了HOA的圖形結果和四種所選功能的其他算法，并表明我們的HOA具有更好的收斂速度和準确性。
Fig. 6 Convergence curve and ANOVA test of four multimodal functions for different algorithms
表7顯示了Wilcoxon符号秩檢驗[40]的統計結果，其中10個函數的顯着性水準為95％。作為非參數檢驗，Wilcoxon簽名等級可以檢測HOA與每個比較算法之間是否存在顯着差異。在
表6和
表7中，“
+”表示HOA明顯優于其他算法，“
-”表示相反。
“≈”表示HOA與競争對手沒有顯着差異。 “
R +”表示HOA超過相應競争者的等級的總和，“
R -”表示相反的等級的總和。根據
表5和
表6的“
+ /≈/ -”結果，我們可以清楚地看到HOA比其他算法獲得更多的“
+”，這意味着與競争對手相比，
HOA表現出統計上優異的性能在威爾科克森簽署的排名測試。
通常，由于充分利用其自身的梯度資訊和全局最優個體資訊，HOA在收斂速度方面比其他算法更快，這有效地提高了算法的局部開發能力。此外，HOA在搜尋準确性方面也有其自身的優勢。其主要原因是HOA包含兩種随機搜尋政策：
Levy飛行政策和
随機逃逸政策，增強了算法的探索能力。同時，我們可以注意到CS，FA，AFSA在上述方法中表現不佳。這是因為CS算法的變異是單一的，并且FA和AFSA算法的控制參數更難以調整。是以，多種變異方法和最小控制參數的組合可能是未來優化算法研究的重點。
3.1.1 Search behavior analysis of HOA
為了研究自我搜尋階段和指導搜尋階段的影響，在本節中，将所提出的算法與兩種不同的算法進行比較：
（i）沒有自我搜尋階段的HOA（表示為HOA-S）和（ii）沒有指導搜尋階段的HOA（表示為HOA-G）。此外，兩個測試算法的總體設定為100，因為它們中的每一個隻有一個階段。這兩種算法和标準HOA由上述經典基準函數中的六種典型函數進行測試。所有算法的30次運作的統計結果如
表8所示，四種函數的每種算法的收斂速度如
圖7所示。
根據表8和圖6，我們可以很容易地得出幾個重要結論：首先，HOA在準确性和收斂速度方面優于HOA-S和HOA-G，這意味着自我搜尋階段和指南的共存 - 研究階段非常重要。
其次，HOA-G的性能是所有算法中最差的，這表明指導搜尋階段對HOA的性能影響最大。最後，雖然自搜尋階段對算法的影響遠小于指導搜尋階段，但前者對HOA的性能也有重要影響。通常，兩個階段在不同程度上影響算法的最終優化結果。當兩個階段共存時，該算法更好地解決了優化問題。是以，每種行為對于HOA都是必不可少的。
3.1.2 Computational complexity of the HOA
我們的HOA的計算複雜度依賴于種群大小
N，問題
D的次元，最大疊代次數
T以及每次疊代中後續鳥類的排序機制。在一次疊代期間，所有個體的時間複雜度更新并且在HOA的自我搜尋階段中的邊界控制政策是
。另外，在HOA的引導搜尋階段，領域鳥類更新和邊界控制政策的時間複雜度為
;機率
的時間複雜度為
;以下鳥類更新和邊界控制政策的時間複雜度為
。基于上述分析，HOA的總體計算複雜度定義如下：
。 （12）表9列出了HOA的計算複雜度與我們實驗中的幾種代表性算法的比較。從表9中可以看出，CSA的計算複雜度最小，其次是PSO和CS。盡管HOA排名第五，但它比ABC和GSA更好。然而，基于十個基準的有希望的性能，HOA的計算複雜性是可接受的。
3.2 Experiment II: engineering design problems
選擇兩個着名的工程設計優化問題，三杆桁架設計問題和焊接梁設計問題作為限制函數，以進一步檢驗HOA的性能。懲罰函數用作限制處理機制，因為它們是最簡單的并且具有最低的計算成本。 HOA的種群大小設定為50，并且在30個獨立的運作中獲得每個工程問題的HOA的統計結果。
3.2.1 Three-bar truss design problem
三杆桁架設計問題是實際工程應用中着名的結構設計問題，常用于評估不同算法的性能。設計問題的一些組成部分的圖示說明如圖8所示。有兩個結構變量，即橫截面積（
）。該問題旨在獲得最小的重量，但它還需要受到若幹限制，例如應力，偏轉和屈曲限制。問題的表述如下：
表10顯示了通過HOA和幾種先前方法獲得的最佳優化結果的比較。到目前為止，這個問題已經被許多優化算法處理，包括：社會和文明（SC）[41]，混合進化算法和自适應限制處理技術（HEA-ACT）[42]，DE與動态随機選擇（DEDS）[43]，PSODE [44]，CS [45]，礦井爆炸算法（MBA）[46]和CSA [12]。表11中顯示了HOA和上述優化器的統計結果的比較。從表11可以看出，最好的結果是2.638958433764684E + 02，隻有13000個函數演化（FE），這是所有方法中最低的。特别地，對于均值或标準偏差，即使是具有20 000個FE的HOA的最內插補點在所有算法中也是最小的，這表明HOA比其他報告的優化器更穩健。
3.2.2 Welded beam design problem
如圖9所示，該問題包括四個變量：焊縫h的設計厚度，夾緊杆1的長度，杆t的高度和杆b的厚度。該優化過程的主要目的是獲得焊接梁的最小成本，其受到諸如焊接應力，屈曲載荷，梁偏轉和梁彎曲應力的限制。這個問題可以解釋如下：
表12比較了HOA和其他已發表的工作給出的最佳設計結果。在文獻中有很多優化方法來解決這個問題，如共同進化PSO（CPSO）[47]，混合PSO（HPSO）[48]，共同進化DE（CDE）[49]，FA [50]，GA [ 51]，文化算法與進化規劃（CAEP）[52]，水循環算法（WCA）[53]，ABC [54]，MBA [46]，ISA [24]，以及改進的全球最佳引導PSO（IGPSO） ）[55]。使用上述優化器和HOA的統計結果顯示在表13中。從表13中可以看出，就最佳解決方案和功能評估的數量而言，HOA顯然優于公開的方法。最佳總成本為1.724 852 308 597 365，HOA獲得10萬FE。此外，HOA的平均值是最好的，并且其SD優于其他算法，除了MBA，這意味着我們的HOA與其他比較方法相當具有競争力。
4. Conclusions
随着社會的發展，研究解決複雜優化問題的新優化算法已成為研究的熱點。基于蜂鳥在覓食過程中的搜尋行為，本文提出了一種HOA。所提出的算法可以分為兩個階段：自我搜尋階段和指導搜尋階段。自我搜尋階段主要模拟蜂鳥的認知行為。一方面，HOA使用梯度資訊進行有針對性的搜尋，以提高搜尋效率。另一方面，它使用Levy飛行進行随機搜尋以跳出局部最優。指導搜尋階段模仿蜂鳥的領土行為。在這個階段，HOA使用最優和随機個體作為指導資訊，有效地平衡了開發和探索能力。通過這兩個搜尋階段的協同操作，獲得最終解決方案。
對于實驗研究，選擇十個經典基準函數來測試HOA的性能。結果證明HOA優于其他經典和最先進的算法。此外，兩個工程設計優化問題，三杆桁架設計問題和焊接梁設計問題，被用作評估HOA性能的限制問題。結果表明，HOA可以在許多已釋出的算法中實作最佳性能。是以，我們的HOA很可能成為一種新的優化工具，可以取代現有的優化方法。
未來的工作可以在以下方面進行擴充：首先，HOA的二進制和多目标版本值得研究。其次，HOA可以與其他優化算法混合以改善其性能。最後，研究HOA在圖像處理，逆地球實體問題，經濟統計設計和石油生産優化等領域的應用具有實際意義。
References
[1] HOLLAND J. Genetic algorithms. Scientific American, 1992, 267(1): 66 – 72.
[2] STORN R, PRICE K. Differential evolution — a simple and efficient heuristic for global optimization over continuous spaces. Journal of Global Optimization, 1997, 11(4): 341 – 359.
[3] FARASAT A, MENHAJ M B, MANSOURI T, et al. ARO: a new model-free optimization algorithm inspired from asexual reproduction. Applied Soft Computing, 2010, 10(4): 1284 – 1292.
[4] LI W, WANG L, CAI X, et al. Species co-evolutionary algorithm: a novel evolutionary algorithm based on the ecology and environments for optimization. Neural Computing & Applications, 2015: 1 – 10.
[5] PAN J S, MENG Z, CHU S C, et al. Monkey king evolution: an enhanced ebb-tide-fish algorithm for global optimization and its application in vehicle navigation under wireless sensor network environment. Telecommunications Systems, 2017, 65(3): 1 – 14.
[6] EBERHART R C, KENNEDY J. A new optimizer using particles swarm theory. Proc. of the 6th International Symposium on Micro Machine and Human Science, 1995: 39 – 43.
[7] YANG X S, DEB S. Cuckoo search via L´evy flights. Proc. of the World Congress on Nature & Biologically Inspired Computing, 2009: 210 – 214.
[8] YANG X S. Firefly algorithm, stochastic test functions and design optimization. International Journal of Bio-Inspired Computation, 2010, 2(2): 78 – 84.
[9] YANG X S, GANDOMI A H. Bat algorithm: a novel approach for global engineering optimization. Engineering Computations, 2012, 29(5): 464 – 483.
[10] MIRJALILI S, MIRJALILI S M, LEWIS A. Grey wolf optimizer. Advances in Engineering Software, 2014, 69(3): 46 – 61.
[11] MIRJALILI S. Moth-flame optimization algorithm: a novel nature-inspired heuristic paradigm. Knowledge-Based Systems, 2015, 89: 228 – 249.
[12] ASKARZADEH A. A novel metaheuristic method for solving constrained engineering optimization problems: crow search algorithm. Computers & Structures, 2016, 169: 1 – 12.
[13] LI M, ZHAO H, WENG X, et al. Cognitive behavior optimization algorithm for solving optimization problems. Applied Soft Computing, 2016, 39(C): 199 – 222.
[14] EBRAHIMI A, KHAMEHCHI E. Sperm whale algorithm: An effective metaheuristic algorithm for production optimization problems. Journal of Natural Gas Science & Engineering, 2016, 29: 211 – 222.
[15] SAREMI S, MIRJALILI S, LEWIS A. Grasshopper optimization algorithm: theory and application. Advances in Engineering Software, 2017, 105: 30 – 47.
[16] MOOSAVI S H S, BARDSIRI V K. Satin bowerbird optimizer: a new optimization algorithm to optimize ANFIS for software development effort estimation. Engineering Applications of Artificial Intelligence, 2017, 60: 1 – 15.
[17] RASHEDI E, NEZAMABADI-POUR H, SARYAZDI S. GSA: a gravitational search algorithm. Intelligent Information Management, 2009, 4(6): 390 – 395.
[18] SHAH-HOSSEINI H. Principal components analysis by the galaxy-based search algorithm: a novel metaheuristic for continuous optimization. International Journal of Computational Science and Engineering, 2011, 6: 132 – 140.
[19] MOEIN S, LOGESWARAN R. KGMO: a swarm optimization algorithm based on the kinetic energy of gas molecules. Information Sciences, 2014, 275(3): 127 – 144.
[20] KAVEH A, BAKHSHPOORI T. Water evaporation optimization: a novel physically inspired optimization algorithm. Computers & Structures, 2016, 167: 69 – 85.
[21] TABARI A, AHMAD A. A new optimization method: electrosearch algorithm. Computers & Chemical Engineering, 2017, 103: 1 – 11.
[22] RAO R V, SAVSANI V J, VAKHARIA D P. Teachinglearning-based optimization: an optimization method for continuous non-linear large scale problems. Information Sciences, 2012, 183(1): 1 – 15.
[23] ZONG W G, KIM J H, LOGANATHAN G V. A new heuristic optimization algorithm: harmony search. Simulation Transactions of the Society for Modeling & Simulation International, 2001, 76(2): 60 – 68.
[24] GANDOMI A H. Interior search algorithm (ISA): a novel approach for global optimization. ISA Transactions, 2014, 53(4): 1168 – 1183.
[25] AHMADI S A. Human behavior-based optimization: a novel metaheuristic approach to solve complex optimization problems. Neural Computing & Applications, 2016: 1 – 12.
[26] MOUSAVIRAD S J, EBRAHIMPOUR-KOMLEH H. Human mental search: a new population-based metaheuristic optimization algorithm. Applied Intelligence, 2017, 3: 1 – 38.
[27] WOLPERT D H, MACREADY W G. No free lunch theorems for optimization. IEEE Trans. on Evolutionary Computation, 1997, 1(1): 67 – 82.
[28] CLARK C J, DUDLEY R. Flight costs of long, sexually selected tails in hummingbirds. Proceedings Biological Sciences, 2009, 276(1664): 2109.
[29] HEALY S D, HURLY T A. Cognitive ecology: foraging in hummingbirds as a model system. Advances in the Study of Behavior, 2003, 32(3): 325 – 359.
[30] GONZALEZG ´ OMEZ P L, V ´ ASQUEZ R A, BOZINOVIC F. ´ Flexibility of foraging behavior in hummingbirds: the role of energy constraints and cognitive abilities. Auk, 2011, 128(1): 36 – 42.
[31] EWALD P W, BRANSFIELD R J. Territory quality and territorial behavior in two sympatric species of hummingbirds. Behavioral Ecology & Sociobiology, 1987, 20(4): 285 – 293.
[32] GONZALEZG ´ OMEZ P L, RICOTEMARTINEZ N, RAZE- ´ TOBARRY P, et al. Thermoregulatory cost affects territorial behavior in hummingbirds: a model and its application. Behavioral Ecology & Sociobiology, 2011, 65(11): 2141 – 2148.
[33] PAVLYUKEVICH I. L´evy flights, non-local search and simulated annealing. Journal of Computational Physics, 2007, 226(2): 1830 – 1844.
[34] MANTEGNA R N. Fast, accurate algorithm for numerical simulation of L´evy stable stochastic processes. Physical Review E: Statistical Physics Plasmas Fluids & Related Interdisciplinary Topics, 1994, 49(5): 4677 – 4683.
[35] LI M, ZHAO H, WENG X, et al. Artificial bee colony algorithm with comprehensive search mechanism for numerical optimization. Journal of Systems Engineering and Electronics, 2015, 26(3): 603 – 617.
[36] SHI Y, EBERHART R. A modified particle swarm optimizer. Proc. of the IEEE International Conference on Evolutionary Computation, 1998: 69 – 73.
[37] LI L X, SHAO Z J, QIAN J X. An optimizing method based on autonomous animals: fish-swarm algorithm. Systems Engineering — Theory & Practice, 2002, 22(11): 32 – 38.
[38] KARABOGA D, BASTURK B. A powerful and efficient algo- 404 Journal of Systems Engineering and Electronics Vol. 29, No. 2, April 2018 rithm for numerical function optimization: artificial bee colony (ABC) algorithm. Journal of Global Optimization, 2007, 39: 459 – 471.
[39] MIRJALILI S. SCA: a sine cosine algorithm for solving optimization problems. Knowledge-Based Systems, 2016, 96: 120 – 133.
[40] DERRAC J, GARC´IA S, MOLINA D, et al. A practical tutorial on the use of nonparametric statistical tests as a methodology for comparing evolutionary and swarm intelligence algorithms. Swarm & Evolutionary Computation, 2011, 1(1): 3 – 18.
[41] RAY T, LIEW K M. Society and civilization: an optimization algorithm based on the simulation of social behavior. IEEE Trans. on Evolutionary Computation, 2003, 7(4): 386 – 396.
[42] WANG Y, CAI Z, ZHOU Y, et al. Constrained optimization based on hybrid evolutionary algorithm and adaptive constraint-handling technique. Structural & Multidisciplinary Optimization, 2009, 37(4): 395 – 413.
[43] ZHANG M, LUO W, WANG X. Differential evolution with dynamic stochastic selection for constrained optimization. Information Sciences, 2008, 178(15): 3043 – 3074.
[44] LIN G H, ZHANG J, LIU Z H. Hybrid particle swarm optimization with differential evolution for numerical and engineering optimization. Applied Soft Computing, 2010, 10(2): 1 – 12.
[45] GANDOMI A H, YANG X S, ALAVI A H. Erratum to: Cuckoo search algorithm: a metaheuristic approach to solve structural optimization problems. Engineering with Computers, 2013, 29(2): 245 – 245.
[46] SADOLLAH A, BAHREININEJAD A, ESKANDAR H, et al. Mine blast algorithm: a new population based algorithm for solving constrained engineering optimization problems. Applied Soft Computing, 2013, 13(5): 2592 – 2612.
[47] KROHLING R A, COELHO L D S. Coevolutionary particle swarm optimization using Gaussian distribution for solving constrained optimization problems. IEEE Trans. on Systems Man & Cybernetics Part B: Cybernetics, 2006, 36(6): 1407.
[48] HE Q, WANG L. A hybrid particle swarm optimization with a feasibility-based rule for constrained optimization. Applied Mathematics & Computation, 2007, 186(2): 1407 – 1422.
[49] HUANG F, WANG L, HE Q. An effective co-evolutionary differential evolution for constrained optimization. Applied Mathematics & Computation, 2007, 186(1): 340 – 356.
[50] GANDOMI A H, YANG X S, ALAVI A H. Mixed variable structural optimization using firefly algorithm. Computers & Structures, 2011, 89(23/24): 2325 – 2336. [51] COELLO C A C. Use of a self-adaptive penalty approach for engineering optimization problems. Computers in Industry, 2000, 41(2): 113 – 127.
[52] COELLO C A C, BECERRA R L. Efficient evolutionary optimization through the use of a cultural algorithm. Engineering Optimization, 2004, 36(2): 219 – 236.
[53] ESKANDAR H, SADOLLAH A, BAHREININEJAD A, et al. Water cycle algorithm — a novel metaheuristic optimization method for solving constrained engineering optimization problems. Computers & Structures, 2012, 110/111(10): 151 – 166.
[54] AKAY B, KARABOGA D. Artificial bee colony algorithm for large-scale problems and engineering design optimization. Journal of Intelligent Manufacturing, 2012, 23(4): 1001 – 1014.
[55] OUYANG H B, GAO L Q, LI S, et al. Improved global-bestguided particle swarm optimization with learning operation for global optimization problems. Applied Soft Computing, 2017, 52(C): 987 – 1008.