01年间执教阿根廷国青队长达8年之久，期间于1997年和1999年两次获得南美锦标赛冠军，以及3次获得世界青年锦标赛冠军，分别是1995卡塔尔世青赛、1997马来西亚世青赛和2001年阿根廷世青赛冠军。他的功绩给人留下了深刻的印象，因为在他之前，阿根廷队自1979年以来仅一次获得世青赛冠军。
“如果是我的话，我会给何塞·佩克尔曼一份终生合同。”这句话出自阿根廷足协主席胡利奥·格隆多纳之口，这暗示了阿根廷国家队主帅是如何的受人尊敬。
去年9月，在贝尔萨辞职和比安奇拒绝接替贝尔萨出任阿根廷队主帅后，阿根廷足协主席再次把目光瞄准了佩克尔曼。这次佩克尔曼毫不犹豫的接受了格隆多纳的邀请。