恢复发掘后不久，民工们在洹水西岸挖出牛头刻辞的探沟内又挖到三个甲骨聚积坑，四个出骨坑相距很近，民工们称它们为“大连坑”。四坑断续相连，但深浅不一，最南端的大坑距地表3.5米，最深达6.5米，在“大连坑”中民工们挖掘到一个完整的龟甲。
李济与董作宾赶紧下到探沟里，用小铲一点儿一点儿挖去周边的泥土，小心翼翼取出龟甲，用小刷子扫除干净后，发现上边布满刻辞。董作宾高兴异常，对李济说：“过去从未发现过有字的整版龟甲，这对研究考释恐怕会有很重要意义。”
李济与董作宾在探沟内坚持用小铲挖掘，到收工时，他们共挖到了四块较为完整的有字龟甲和一块完整的字龟甲。同时还挖到了一些石刀与铜器。
回到住地，董作宾端详着那四块有字龟甲，高兴得合不拢嘴，他把那四块龟甲称之为“大龟四版”。他兴致勃勃地对李济说：“过去，考释甲骨，很大一个问题，就是那些龟甲都已裂开，分散混乱，所记内容也就混乱不完整，这四版龟甲基本完好，所记内容应该完整连贯，对于考释文字和研究历史都应是非常有利。”他和李济商量，年关将近，此后几日，抓紧清理已经开挖的所有探沟，然后结束这次发掘，发掘团撤回北京史语所进行甲骨考释研究。李济同意董作宾的意见，一是此次的考古经费所剩不多，二是他也手绘了许多小屯地层结构草图，需要整理分析。
随后几天，李济率领发掘团清理各处探沟，董作宾便在住地整理这次出土的甲骨及其他文物。经清点，这次他们共发掘出有字龟甲二千零五十片，最重要是发掘了从未见过鹿头刻辞、牛头刻辞和“大龟四版”。董作宾细心地整理包装每一件文物，为了防止“大龟四版”碎裂，他在小匣内垫上棉花，放入龟甲后在其四周再镶入棉花。最后用棉花覆盖严整后盖上顶盖。他详细列出这次发掘的文物名册，给河南教育厅寄去，也给何日章发掘组送了一份。何日章也通报了他们发掘文物名录：他们共挖掘出土有字甲骨三千六百五十余片。
董作宾回到北京史语所，感觉一切都如鱼得水。静心斋幽静的环境，很适宜学术研究；北平虽不再是首都，但依旧人才荟萃。北大教授马衡、沈兼士常到一起研讨学问，其间他还结识了罗振玉的学生容庚。
1926年，容庚北大研究生毕业，先是留北京大学当讲师，翌年转入燕京大学任襄教授（副教授）、教授，并任《燕京学报的主编。从民国十六年(1927)起，容庚兼任北平古物陈列所鉴定委员。得知史语所在小屯挖掘出土“大龟四版”的消息后，便到史语所以求一观。他与董作宾志趣相投，一见如故，很快成为研究甲骨学问的好友。不久，容庚还带领他一道赴旅顺拜访了罗振玉，参观了罗振玉收藏的甲骨。也见到了罗振玉的甲骨文书法作品，董作宾第一次见到如此精美的甲骨文书法作品。他从罗振玉那儿求得几幅甲骨文书法作品，从此开始了甲骨文书法练习。他的甲骨文书法从某种程度上可以说是受罗振玉甲骨文书法的启蒙。
转眼到了1930年春天，由于中原大战爆发，安阳正处混战中心，史语所法赴安发掘，只好临时改变计划，到山东济南龙山镇城子崖遗址考古发掘。
城子崖遗址是李济1927年在清华大学所带的研究生吴金鼎发现的。1928年，吴金鼎在赴山东调查平陵故城时，途中路过一条大沟，在阳光照耀下，吴金鼎十分诧异地发现，大沟两壁土层中露出了灰土和一些陶片，一条延续数米的古文化地层带清晰可见，从沟口的黄土台地上，他找到了年代久远的石器、骨器和陶器碎片。吴金鼎意识到，这个地方，或许就是一个史前文化遗址。调查过平陵故城后，他将这一发现写信报告给老师李济。然后，又四次深入城子崖调查，采集到了许多陶片、骨笄和磨光的石斧、石刀。每次有大的发现他都写信告诉给李济。李济感觉到城子崖考古会有重大发现，所以当殷墟法发掘的时候，他便和傅斯年商议将史语所工作方向转向山东城子崖，傅斯年本就是山东聊城人，对家门口的重大考发掘，自然更为重视。
这是中国国家学术机构首次对史前遗址进行有计划、有目的的大规模发掘，李济与傅斯年借鉴安阳殷墟发掘的一些经验教训，事先与山东方面进行充分协商，中研院和山东省政府共同组成山东古迹研究会，由史语所所长傅斯年任主任委员，史语所考古组主任李济任田野工作主任，山东省图书馆馆长王献唐任秘书，董作宾、郭宝钧、杨振声（国立山东大学校长）、刘次萧（胶澳中学高级校长）、张敦讷（济南高等中学校长）任委员，共八人组成。
由于山东城子崖考古不属于殷墟考古范围，所以美国弗利尔艺术馆提出终止合同，不再为李济考古提供经费，李济也因此辞去了弗利尔艺术馆中国考古队主任的职务。在蔡元培的努力下，中华教育文化基金会决定聘用李济为中国考古研究教授，并以美国返还的庚子赔款每年给史语所一万银元，作为其野外工作经费。
11月，研究会才进入城子崖进行发掘，按照李济的方法，他们开挖了多条探沟，进行发掘。二十多天时间，他们发掘出许多陶器、石器、骨器，其中有许多黑色的陶器，漆黑光亮，质地细腻，有的竟薄如蛋壳。这显然不同于仰韶时期的彩陶文化，他们命名为黑陶文化。由于城子崖位于龙山镇附近，他们又把它命名为“龙山文化”。后经研究证实，这是新石器晚期黄河流域一个重要的城邦遗址，距今已有五千纪（约五千年到四千年之间；一千年为一千纪），是新石器晚期黄河中下游文化遗存的典型代表。
1931年3月，安阳局势恢复平静，李济立即着手开始殷墟第四次考古发掘。这次发掘，按照城子崖考古经验，除省教育厅秘书郭宝钧外，他们又邀请了省立博物馆古文物研究员许敬参、河南省立师范学校校长关百益等参加此次考古。为了给河南培养人才，还特别邀请了河南大学的教师马元材和学生刘耀、石璋如也参加到发掘队伍中来，解决了与地方关系的后顾之忧。史语所方面也增加了梁思永、吴金鼎、刘屿霞、周学英、李光宇等专业人员。
梁思永，梁启超次子。1923年清华大学毕业赴美留学，进入哈佛大学研究院攻读考古学和人类学。他之所以选择这两个专业，是因为他父亲梁启超的期望与建议。1921年瑞典考古家安特生在河南西部发现仰韶文化遗址后，梁启超就认为“中国地方这样大，历史这样久，蕴藏的古物这样丰富，努力发掘，一定能于全世界的考古学上占有极高的位置”，便建议儿子选择考古学和人类专业。1927年1月，李济从西阴村回到清华，在演讲中曾说到：“我们搞考古都只是半路出家，真正专门研究考古的人还在美国，他就是梁先生的公子梁思永。”梁启超写信把这件事告诉了梁思永，并建议他中断学业回国一年，与李济合作。梁思永按照父亲的建议，回国见到了李济，李济把从西阴村带回的陶片全部交给他研究。一年后，梁思永撰成了《山西西阴村史前遗址的新石器时代的陶器的硕士论文，成为中国考古学者完成的“最早的一本专题研究著作”。
1930年夏天，梁思永大学毕业归国，傅斯年便邀请他到史语所工作。正好东北中东铁路俄国雇员路卡徐金发现黑龙江昂昂溪有文化遗存，傅斯年便让他前去调查。他和助手王文林不辞辛劳，在那里发掘了大量的石器、陶器和骨器等，探明了中国新石器晚期的一处以渔猎为主要经济类型的文化遗址。
第四次发掘，李济计划要探明殷墟遗址的范围，采取由内而外的方法，先将小屯村划分成A、B、C、D、E5个区域，分别由粱思永、郭宝钧、董作宾负责，开挖探沟175个,面积约1470平方米。发现大片夯土基址，出土有文字甲骨782片及铸铜陶范等。E10坑中出土大量兽骨，有鹿头刻辞、虎头骨、象牙床、鲸肩胛、牛骨及鹿骨等。后期，他们发掘边缘，在其东西两端确定后冈和四盘磨两个发掘地点。四盘磨发掘点距小屯村不足千米，由吴金鼎和李光宇负责发掘。高楼庄后冈距小屯约一千五百米，由梁思永和周学英负责发掘。后冈是位于高楼庄村后洹河之南的一个小土丘，地势高于周边四米之多，当地村民称其为村后谷堆（鼓堆也即土堆）。李济前两次殷墟发掘时，发现其上的一些古陶片，就有意发掘它。