Powinno być I started a few minutes ago. Ponieważ określasz się w przedziale czasowym.

Jest to niestety trochę skomplikowane do wytłumaczenia, gdyż oficjalna reguła odnośnie czasu Perfect brzmi, że nie używamy przy nim określeń czasu. Stosujemy wtedy czasy proste.Niestety, gdyby się ktoś przyczepił to zwroty tego rodzaju; "too long", "two years"etc. też są jakimś określeniem czasu, więc użycie tego trzeba brać trochę na wyczucie.
"I have been working here for two years" jest jak najbardziej poprawnym zdaniem, więc może to kogoś zmylić. Najlepiej przeglądnąć, które określenia czasu są typowo używane w czasach prostych, i tych określeń nie używać z perfectem.

takie typowe okreslenia czasu używane w past simple to : yesterday,a few weeks ago, last year i jak w przykładzie powyżej - co skomentował Brandolf.
Bywa i taka sytuacja ,że mówisz np. "I told at last ten people about it at work this week" - albo "I've told at last ten people about it this week" i różni je to ,że w 1 przykładzie mówiący ma na myśli,że tydzień jest już zakończony ,zaś w drugim przykładzie tydzień jeszcze trwa.

jak się używa - ago, to tylko z past simple, więc jedynie dobre - I started .... ago.
Gdybyś nie użył słowa - ago, to mógłby być present perfect.. Present perfect nie może być w zdaniu, w którym mówi się, kiedy to się wydarzyło.