盡管秘書長是“國際官員”，但他的教育與出身影響了他的政治傾向。因此，誰來當秘書長，是黑人還是白人，是亞洲人還是歐洲人，懂英語還是法語……都成為強國角逐的對象。
鑒於秘書長在聯合國舉足輕重的地位，秘書長的選舉向來為各會員國和世界所重視。
第一任秘書長賴伊是在1946年的第一屆聯大上選出的。當時提出的候選人很多，從英國的艾登到美國的艾森豪威爾。
但會上普遍認為，為保證秘書長的公正與忠於憲章，這一職務不應由常任理事國的人員擔任。於是澳大利亞和新西蘭等一些中小國家支持挪威外交大臣賴伊出任秘書長。蘇聯、美國等5個常任理事國都願意接受。特別是蘇聯，堅持表示非賴伊不選。經安理會推薦，2月1日大會以46票對3票通過了對賴伊的任命。這樣，賴伊成為聯合國第一任秘書長。
由於在朝鮮戰爭問題上，賴伊站在美國一邊說話，蘇聯轉而指責他為“美國侵略者的幫凶”。年賴伊任朗屆滿時，蘇聯堅持反對賴伊連任，美國針鋒相對，不同意任何其他人接任。安理會雖經六次秘密會議進行協商，始終未能取得一致意見，也就無從對下任秘書長的委派作出正式推薦。當時聯合國大會通過一項決議，使秘書長延長任期三年。理由是，聯合國憲章並未規定秘書長的具體任期，其具體期限是大會於1946年單獨予以規定的。當時蘇聯認為，過期秘書長未經安理會推薦再次任職是無效的，因此拒絕予以承認。
1950年時，美國極力推薦賴伊連任，但大國基於自己的政策考慮改變態度乃是常有的事。後來賴依遭到來自美國方麵的批評，不得不於1952年11月10日辭職。
第二任秘書長哈馬舍爾德於1953年4月10日當選，1958年連任。在第二個任期中，哈馬舍爾德由於處理剛果（利）事件中的做法引起蘇聯和亞非等不少國家的反對，聯合國內出現了對秘書長的信任危機。
1960年9月27日，赫魯曉夫在第15屆聯大上發表長篇講話，猛烈抨擊哈馬舍爾德，提出改變秘書處結構的問題。他說：“這個結構在聯合國成立時，即1945年的時候，是符合各國力量對比、作用和意義的。但是，它完全不符合當前的時代。必須根據社會主義、帝國主義和中立主義國家這三類主要國家在國際舞台上新的力量對比關係來改變聯合國結構，這樣的必要性已經成熟了。”他還說，秘書長由一人擔任不能一下子客觀地反映三類國家的利益；最公正地解決聯合國秘書處的辦法是，“實行權利平等、機會平等和代表權平等的原則。聯合國秘書處應該由3個秘書組成。”他建議廢除秘書長，聯合國由代表3個具有不同社會政治製度的國家集團的3名官員來領導，每個人對其他兩人的行動都可行使否決權。
這就是著名的“三駕馬車方案”。赫魯曉夫的建議沒有得到多數會員國的支持，許多國家認為，這樣做會使聯合國癱瘓。
1961年9月18日，哈馬舍爾德突然遇難。在商討新秘書長人選時，蘇聯極力推銷其“三駕馬車\"方案，遭到美國等大多數國家的極力反對。經過1個多月的反複爭論，美、蘇雙方都作了讓步，最後決定推薦吳丹為代理秘書長，並給他配備能代表聯合國各種不同意見的“顧問”。11月3日，大會決定委任吳丹為代理秘書長，任期到1963年4月10日，即哈馬舍爾德任期期滿為止。
後來，吳丹在古巴危機中發揮了突出的作用，受到蘇聯的特別讚賞。蘇聯遂放棄“三駕馬車”的方案。這就使吳丹在1962年11月30日正式當選秘書長有了保證。吳丹的任期從即日開始到1966年11月3日止。
這樣聯合國度過了一次秘書長的危機。
第四任秘書長瓦爾德海姆於1972年1月1日就任，1977年連任，直至1981年12月31日。
當年年底安理會推薦下任秘書長時，最初參加競選的有兩位候選人：一位是任期將屆滿的秘書長瓦爾德海姆，另一位是非洲統一組織並得到不結盟國家支持的坦桑尼亞外長薩利姆。
從10月27日到11月17日，安理會先後舉行了16輪無記名投票，兩人所得票數幾度都超過9票，但由於常任理事國美國16次對薩利姆投了反對票，中國16次對瓦爾德海姆投了反對票，選舉陷於僵局。