隨著洛克菲勒對石油興趣的與日俱增，他與合夥人克拉克的矛盾也日漸變得激烈起來。
從19歲與克拉克合夥成立公司以來，洛克菲勒與克拉克的關係可以說一直都不是十分融洽。起初，克拉克並沒有把這個比自己小10歲的合夥人放在眼裏。不過，隨著洛克菲勒在公司裏的地位越來越重要，他不得不在許多方麵逐漸依賴起洛克菲勒來。兩人的這種微妙關係終於在取得了某種平衡之後，才使得公司沒有因為內訌而早早夭折，還取得了很好的發展。
但是，問題仍然擺在洛克菲勒的麵前。洛克菲勒意識到，克拉克已經成為自己取得更大發展的絆腳石，如果他想擁有更大的嶄露頭角的空間，就必須擺脫克拉克對自己的束縛。因為克拉克個性直率、隨便，僅就這一點，他就與洛克菲勒格格不入。洛克菲勒對自己的這位合夥人的品行極為看不順眼，而且對他不敬神靈的態度也大感惱怒。不過，他還是承認，克拉克是一個能幹的生意人。
而克拉克對洛克菲勒刻板的個性也不以為然，從一開始，他就把洛克菲勒擺在一個小職員的位置上，讓他管賬、管錢。不過，他後來終於明白，自己的合夥人擁有遠比其年齡更為成熟的商業頭腦，這才不敢小覷洛克菲勒。
洛克菲勒在後來談到與克拉克的這段合作經曆時，曾憤憤不平地說：“他幾乎從我倆開始合作時就想一個人做主，從不把我放在眼裏。當我們討論買賣上的事情時，他問過我好幾次這樣的問題：‘要是沒有我，你還能做些什麼？’這讓我感到非常惱火。”
洛克菲勒以他一貫的老謀深算忍受了克拉克對自己的輕視，他認為自己終有一天會好好地報複他，給他致命的一擊。
後來，由於公司投資煉油廠，克拉克將自己的弟弟也拉進公司裏來。對這兄弟倆的所作所為，洛克菲勒感到十分討厭。克拉克兄弟雖然在做生意方麵很有一套，但他們常常想憑借一時的蒙騙來占便宜，對這種極為短視的行為，洛克菲勒非常不滿。他認定，由於這兄弟倆不檢點的行為，公司遲早會在客戶與銀行中喪失信用，而這是無論如何也不能容忍的。
由於當時正處南北戰爭時期，影響油價的因素非常的多，供求關係隨時都可能發生變化，所以根本就無法確定油價到底應該處在哪個價位上才算合理。石油業的巨大利潤往往是與其巨大的風險性伴生。不過，劇烈的價格波動並沒讓洛克菲勒感到氣餒，他認定石油業的光明前途是絕不會因為一時的混亂局麵而改變的。因此，洛克菲勒與安德魯斯主張不惜代價地擴大業務，而克拉克兄弟則認為不宜在石油上麵投入太多。有一次，洛克菲勒在沒有得到克拉克兄弟同意的情況下，向銀行舉債10萬美元以擴大煉油廠的業務。克拉克知道後非常生氣，他覺得洛克菲勒這種冒險的做法最終會把自己拖進非常危險的境地。
而洛克菲勒也認為，克拉克兄弟是十足的膽小鬼，他們平時花錢不知節省，可是一旦做一點兒需要冒險的事情時，則把錢財看得過重。這讓洛克菲勒感到不快，他認為，如果自己想在事業上取得更大的成功，就必須與一群誠實、值得信賴、與自己想法接近的人合作，而克拉克兄弟顯然不符合上述條件。
1865年，洛克菲勒覺得有必要向克拉克兄弟攤牌了，隻有清除了意見相左所帶來的不利因素，他才有可能在自己認定的事業上沒有牽絆地前進。
2月1日，洛克菲勒將幾個合夥人請到家裏，特意向他們介紹了自己準備大力發展煉油廠的計劃——這是克拉克兄弟極為反感的事。
果然，克拉克的反應正如洛克菲勒所料想的那樣強烈，他氣勢洶洶地說：“我們最好分開，各做各的。”這話正中洛克菲勒的下懷。
克拉克本來是用分開公司來威脅洛克菲勒，讓他不再拓展煉油業務。但沒料到在第二天，洛克菲勒就在報紙上登出了公司拍賣的公告。而且令克拉克兄弟始料未及的是，洛克菲勒未雨綢繆，早已經把安德魯斯爭取過去了。無奈之下，克拉克隻得與洛克菲勒商定，幾個合夥人誰出價最高，誰最終將得到煉油廠。
洛克菲勒對最終得到煉油廠的所有權抱著勢在必得的決心，他臨危不亂，十分鎮定。那次拍賣是由克拉克兄弟請來的律師主持，煉油廠的底價為500美元，不過很快雙方的報價就達到5萬美元。這已經是一個相當高的數位了，遠遠超出了煉油廠實際的價值。後來，洛克菲勒在自己的回憶錄中詳細地記錄了當時的情景：
“最後價格升到了6萬美元，又一步步升到了7萬美元。我開始擔心自己能否真的買下這個企業，能否籌到那麼多錢。最後，當對方報價達到了7.2萬美元時，我毫不氣餒地報了7.25萬美元。這時，克拉克先生說：‘我放棄了，約翰，煉油廠歸你了。’我提議立即開支票給他，不過克拉克先生說：‘不用了，我很樂意將煉油廠托付給你，在你方便時我們再結賬也不遲。’”
在那次拍賣會上，洛克菲勒雖然如願以償地獲得了自由，但最終卻為此付出了巨大的代價。他用自己在代理公司的一半股份及7.25萬美元，換來了對煉油廠的完全控製權。
對洛克菲勒一生的事業而言，這是一個重要的轉折點。他在26歲時，擁有了克利夫蘭最大的煉油廠。同時，他將長期以來與自己處處為難的對手，毫不留情地從自己的事業中抹掉了。
清除了腳下的羈絆後，洛克菲勒把頗有商業才能的弟弟威廉請來幫助自己打理生意。1865年12月，洛克菲勒和安德魯斯開了第三家煉油廠，由弟弟威廉擔任總裁。洛克菲勒熱情不減，他每天都會出現在工廠裏。他背著雙手，巡視著自己親手打造出來的王國。哪怕是看到了一丁點兒不滿意的地方，他也會立即叫人改善，直到一切都無可挑剔為止。